职位&公司对比
职位详情
- 杭州
- 1-3年
- 本科
- 数据挖掘
- 后端开发
- Java
岗位职责: 直聘 1、kanzhun参与设计和开发爬虫系统 2、参与爬虫数据监控和数据分析系统的设计与开发 3、参与业务系统支撑需求梳理与设计 职位要求: 1、熟练掌握Python/Java等一到两种开发语言,具备开发爬虫系统和相关支撑系统的能力 2、擅长各直聘类爬虫分析策略设定和防屏蔽规则设计,熟悉爬虫IP管理池boss、分布式爬虫设计机制,对于爬虫效率和质量的控制具备一定的经验 3、熟悉各类开源爬虫组件机制工作原理,具备一定的二次开发能力 4、熟练掌握MySQL数据库设计和开发经验,掌握一定的NOSQL数据库开发经验,诸如Mongo直聘DB,Hbase等数据库
职位详情
- 杭州
- 3-5年
- 本科
- 爬虫
- 电商
1、根据需求进行海外相关行业的数据采集(爬虫)工作与相关系统的建设与维护,涉及PC、移动端。 2、熟练掌握 Python 语言,熟悉常用的数据爬虫框架,如 Scrapy、BeautifulSoup 等,能够独立完成爬虫程序的开发、调试和维护。 3、深入boss理解 HTTP/HTTPS 协议,熟悉网络请求、响应机制,能够处理各种网页数据的抓取和解析。 4、具备扎实的数据库知识,熟练使用 MySQL、MongoDB 等数据库进行数据存储和管理,能够进行数据的增删改来自BOSS直聘查操作。 5、熟悉代理 IP 的使用和管理,能够有效应对目标网站的反爬虫机制,确保爬虫程序稳定运行。 职位要求 1、有海外数据采集项目经验,熟悉海外主流网站(如 Facebook、Twitter、Amazon 等)的数据结构和反爬虫策略。 2、具备处理大规模数据的经验,能够优化爬虫程BOSS直聘序性能,提高数据采集效率和质量。 3、有互金、海外电商、酒旅平台经验优先
技能解析
- 和数据分析
- 数据分析
- 数据监控
- 二次开发
- SQL数据库
- 开发能力
- 开发经验
- 数据库开发
- 系统的设计
- NOSQL
- 开发语言
- 数据库设计
数据来自CSL职业科学研究室
技能解析
- 数据爬虫
- 数据存储
- 系统的建设
- 数据采集
- 数据结构
数据来自CSL职业科学研究室
工作时间
工作时间
公司福利
- 生日福利
- 节日福利
- 有无线网
- 团建聚餐
- 零食下午茶
- 餐补
- 带薪年假
- 加班补助
- 股票期权
- 年终奖
- 定期体检
- 五险一金
公司福利
- 定期体检
- 团建聚餐
- 节日福利