爬虫开发工程师
1.5-2万元/月
更新 2026-04-01 13:29:17
浏览 310
职位详情
爬虫工程师
3-5年
反爬虫
岗位职责:
负责公司核心业务数据采集系统的设计、开发与维护
具备破解主流电商平台反爬机制的能力,涵盖App协议逆向、JS动态加密解析、验证码攻防、设备指纹模拟等技术场景
搭建高可用、可扩展的爬虫调度架构,构建代理池、数据清洗、质量校验及监控预警体系
与业务及算法团队高效协同,敏捷响应需求,输出稳定、精准、高时效的数据支持
任职要求:
3年以上爬虫开发经验,精通Python常用爬虫框架(Scrapy / Playwright / Puppeteer / Selenium / requests 等)
熟练进行App逆向分析与通信协议解析(掌握Charles/Fiddler抓包、Frida/Objection hook、jadx/dex2jar反编译工具)
具备扎实的反爬对抗能力,能独立应对JS混淆、签名算法、风控行为识别、滑块验证及人机交互挑战
熟悉分布式爬虫技术架构(消息队列、任务调度、去重策略、限流控制、代理IP池运维)
掌握主流数据存储与处理组件(MongoDB/Redis/Elasticsearch/Kafka/MySQL 等)
具备良好的编码规范,擅长问题排查与性能调优,编写可维护、高效率的爬虫程序
加分项(优先考虑):
拥有知名互联网企业数据采集或爬虫相关项目经验
关注AI大模型在爬虫方向的应用(如利用LLM实现协议理解、验证码识别、异常行为检测、规则自动生成等)
主导过大规模并发爬虫平台自研,或参与配置化、低代码采集系统的建设
熟悉云原生技术栈(Docker/K8s),具备系统监控与告警配置经验(Prometheus/Grafana)
我们期待你:
对反爬技术有持续探索的热情,能够快速适应新平台、新策略的技术变化
具备较强的业务洞察力,善于思考“数据如何有效赋能业务增长”
负责公司核心业务数据采集系统的设计、开发与维护
具备破解主流电商平台反爬机制的能力,涵盖App协议逆向、JS动态加密解析、验证码攻防、设备指纹模拟等技术场景
搭建高可用、可扩展的爬虫调度架构,构建代理池、数据清洗、质量校验及监控预警体系
与业务及算法团队高效协同,敏捷响应需求,输出稳定、精准、高时效的数据支持
任职要求:
3年以上爬虫开发经验,精通Python常用爬虫框架(Scrapy / Playwright / Puppeteer / Selenium / requests 等)
熟练进行App逆向分析与通信协议解析(掌握Charles/Fiddler抓包、Frida/Objection hook、jadx/dex2jar反编译工具)
具备扎实的反爬对抗能力,能独立应对JS混淆、签名算法、风控行为识别、滑块验证及人机交互挑战
熟悉分布式爬虫技术架构(消息队列、任务调度、去重策略、限流控制、代理IP池运维)
掌握主流数据存储与处理组件(MongoDB/Redis/Elasticsearch/Kafka/MySQL 等)
具备良好的编码规范,擅长问题排查与性能调优,编写可维护、高效率的爬虫程序
加分项(优先考虑):
拥有知名互联网企业数据采集或爬虫相关项目经验
关注AI大模型在爬虫方向的应用(如利用LLM实现协议理解、验证码识别、异常行为检测、规则自动生成等)
主导过大规模并发爬虫平台自研,或参与配置化、低代码采集系统的建设
熟悉云原生技术栈(Docker/K8s),具备系统监控与告警配置经验(Prometheus/Grafana)
我们期待你:
对反爬技术有持续探索的热情,能够快速适应新平台、新策略的技术变化
具备较强的业务洞察力,善于思考“数据如何有效赋能业务增长”
相似职位
很抱歉,暂无相似职位!