爬虫开发工程师简历范文全文
自我评价
4年Python爬虫开发经验,专注大规模数据采集与反爬对抗,熟悉Scrapy、Playwright及分布式采集架构。主导过千万级商品与舆情数据采集项目,采集成功率稳定在98%以上。具备扎实的逆向分析、代理池与验证码处理能力,注重合规采集与数据质量。
专业技能
Python / Scrapy / Playwright
JS逆向与反爬对抗
分布式采集与调度(Redis/Celery)
MySQL / MongoDB / Redis
代理池与验证码识别
Linux / Docker / Git
工作经历
杭州云数信息技术有限公司
大数据服务互联网
杭州
爬虫开发工程师
Python反爬对抗
2022年9月 - 至今
- 负责电商竞品数据采集系统开发,日均采集量提升至300万条,采集成功率稳定在98.5%。
- 设计代理池与请求调度模块,将IP封禁率降低约60%,单任务采集耗时缩短35%。
- 搭建采集监控与告警体系,异常任务平均发现时间由2小时降至10分钟内。
上海聚信网络科技有限公司
数据采集创业公司
上海
Python开发工程师(爬虫方向)
Scrapy数据清洗
2020年7月 - 2022年8月
- 使用Scrapy与Playwright开发多站点采集任务,覆盖20余个数据源,月均产出数据约5000万条。
- 完成App接口逆向与签名算法还原,突破3类主流反爬机制,采集覆盖率提升40%。
- 优化数据清洗与入库流程,数据重复率由8%降至1%以内,支撑下游报表准点产出。
项目经验
分布式舆情数据采集平台 - 爬虫开发负责人
2024年3月 - 2024年5月
- 基于Scrapy-Redis搭建分布式采集架构,支持50个节点并行,日采集能力达800万条。
- 引入验证码识别与请求指纹伪装方案,目标站点采集成功率由82%提升至97%。
- 建立采集合规审核与限速策略,项目上线后零封禁投诉,稳定服务6个业务方。
电商价格监控采集系统 - 核心开发
2022年12月 - 2023年2月
- 开发多平台商品价格采集任务,覆盖SKU约120万,价格更新延迟控制在15分钟内。
- 设计增量采集与断点续爬机制,重复请求量减少约50%,服务器成本下降20%。
教育背景
浙江理工大学
省重点一本
杭州
计算机科学与技术 本科
2016年8月 - 2020年5月
主修课程:数据结构、数据库原理、计算机网络、Python程序设计;CET-4。
证书与认证
软件设计师(软考中级) - 工业和信息化部
2022年11月
证明软件设计与开发能力。
阿里云ACA大数据助理工程师 - 阿里云
2023年6月
证明大数据采集与处理基础能力。
其他信息
作品集:
GitHub开源爬虫框架组件,累计Star 300+,含代理池与调度模块。
到岗时间:
离职状态,一周内可到岗,可接受短期出差。
更多爬虫工程师简历范文
同一职位,不同的版式和写法。点开任意一份即可查看大图。
就从这份范文开始
免费复制到你的账户里,每一句话、每个板块和颜色都能改,改好即可下载投递。