职位&公司对比

招聘中

爬虫工程师

-K
  • 大数据
  • A轮
招聘中

数据爬虫工程师

-K·薪
  • 互联网
  • D轮及以上

职位详情

  • 杭州
  • 1-3年
  • 本科
  • 数据挖掘
  • 后端开发
  • Java

岗位职责: 直聘 1、kanzhun参与设计和开发爬虫系统 2、参与爬虫数据监控和数据分析系统的设计与开发 3、参与业务系统支撑需求梳理与设计 职位要求: 1、熟练掌握Python/Java等一到两种开发语言,具备开发爬虫系统和相关支撑系统的能力 2、擅长各直聘类爬虫分析策略设定和防屏蔽规则设计,熟悉爬虫IP管理池boss、分布式爬虫设计机制,对于爬虫效率和质量的控制具备一定的经验 3、熟悉各类开源爬虫组件机制工作原理,具备一定的二次开发能力 4、熟练掌握MySQL数据库设计和开发经验,掌握一定的NOSQL数据库开发经验,诸如Mongo直聘DB,Hbase等数据库

职位详情

  • 杭州
  • 3-5年
  • 本科
  • 爬虫
  • 电商

1、根据需求进行海外相关行业的数据采集(爬虫)工作相关系统的建设与维护,涉及PC、移动端。 2、熟练掌握 Python 语言,熟悉常用的数据爬虫框架如 Scrapy、BeautifulSoup 等,能够独立完成爬虫程序的开发、调试和维护。 3、深入boss理解 HTTP/HTTPS 协议,熟悉网络请求、响应机制,能够处理各种网页数据的抓取和解析。 4、具备扎实的数据库知识,熟练使用 MySQL、MongoDB 等数据库进行数据存储和管理,能够进行数据的增删改来自BOSS直聘查操作。 5、熟悉代理 IP 的使用和管理,能够有效应对目标网站的反爬虫机制,确保爬虫程序稳定运行。 职位要求 1、有海外数据采集项目经验,熟悉海外主流网站(如 Facebook、Twitter、Amazon 等)的数据结构和反爬虫策略。 2、具备处理大规模数据的经验,能够优化爬虫程BOSS直聘序性能,提高数据采集效率和质量。 3、有互金、海外电商、酒旅平台经验优先

技能解析

专有技能
  • 和数据分析
  • 数据分析
  • 数据监控
  • 二次开发
  • SQL数据库
  • 开发能力
  • 开发经验
  • 数据库开发
  • 系统的设计
  • NOSQL
  • 开发语言
  • 数据库设计

    数据来自CSL职业科学研究室

    技能解析

    专有技能
    • 数据爬虫
    • 数据存储
    • 系统的建设
    • 数据采集
    • 数据结构

      数据来自CSL职业科学研究室

      工作时间

      上午09:00   -   下午06:00

      工作时间

      上午09:30   -   下午06:30
      双休弹性工作

      公司福利

      • 生日福利
      • 节日福利
      • 有无线网
      • 团建聚餐
      • 零食下午茶
      • 餐补
      • 带薪年假
      • 加班补助
      • 股票期权
      • 年终奖
      • 定期体检
      • 五险一金

      公司福利

      • 定期体检
      • 团建聚餐
      • 节日福利
      更新于 2025-04-28