职位&公司对比

职位详情

• 北京
• 3-5年
• 不限

• 网络爬虫技术

岗位职责: 1、从事网页及APP数据采集的技术研发工作； 2、负责设计爬虫策略及反爬规则，提升数据采集效率、完整度和稳定性； 3、负责智能采集系统设计与研发，如采集任务调BOSS直聘度，BOSS直聘页面解析和结构化抽取，海量数据存储和读取等。 任职资格: 1、至少2年以上爬虫开发经验； 2、熟练掌握Python开发，扎实的编程功底，熟悉常用的数据结构和算法； 3、熟悉各种爬虫技术：adsl拨号、正则表达式、脱壳技术、加密、图片破解、二维码识别、滑块验证码破解、httpClient、分布式爬虫调度、代理ip调度算法、配置化爬虫、授权爬虫； 4、熟悉常见的反爬虫技术及其突破方案； 5、熟悉Mysql和NoSql（MongoDB，Redis，Hbase等）； 6、有实体抽取，文本分类相关经验者优先； 微信分享 7、需要具备企业大数据相关的经kanzhun验，有渠道和技术爬取企业股东，高管等信息（必须项boss）