职位&公司对比

招聘中
  • 其他行业
  • 不需要融资
招聘中

实时大数据开发工程师

-K·薪
某大型计算机服务公司

职位详情

  • 北京
  • 1-3年
  • 本科
  • Python
  • Scala
  • Spark
  • Flume
  • Storm
  • Kafka
  • Hadoop
  • Impala

岗位职责: 1、负责离线数仓架kanzhun构设计及ETL任务开发和维护; 2、负责提升基于HIve、Hbase数据存储集群的高可用性、高性能、高扩展特性; 3、负责设计和建立基于Flink或Spark实时数据处理框架; 4、研究Hadoop/Spark/Hbase/Hive/Flink等开源项目,对线上任务进行调优,并开发通用组件; 5、负责数据接口服务的设计及开发; 6、负责技术攻关和创新技术引用,开发具有数据分析、数据挖掘能力的创新型产品; 任职资格: 1、本科及以上,计算机、软件程、统计学、数据挖掘、机器学习等相关专业,3年以上大数据相关工作经验; 2、熟练使用javkanzhuna、scala、python等开发语言中的一种; 3、有hadoop和spa来自BOSS直聘rk、hive、flink实际开发经验。了解大数据组件的使用限制和应用场景,如hdfs,yarn,hbase,hive,flume,kafka,zk,impala,kylin,kudu,ES,Storm、MongoDB等。 4、熟悉mysql、oracle、ElasticSearch、Redis等关系型或NoSQL数据库,了解应用场景和使用限制; 5、熟悉linux操作系统及常用命令; 6、熟悉HDFS分布式文件系统架构,熟练掌握Hadoop/Hive/hbase的运维和调优方法; 7、熟练使用过azkaban、airflow、apache dolphin等开源调度工具优先。

职位详情

  • 北京
  • 5-10年
  • 本科
  • 实时
  • 要求数据开发经验

**岗位职责:** 1. 构建与优化网络流量日志的流处理与威胁检测平台。 2. 解决海量数据实时处理、存储与检索中的技术难题。 3. 参与需求分析、功能设计及技术文档编写。 4. 与团队合作,攻克开发与运BOSS直聘维中的技术问题。 **任职要求:** 1. 本科BOSS直聘及以上学历,计算机相关专业,5年以上开发经验,2年以上大数据流处理经验。 2. 精通分布式编程,熟悉Flink、Spark Str直聘eamBOSS直聘ing等流处理框架,具备架构设计能力。 3. 熟悉ClickHouse、Apache Druid、StarRocks、HBase等OLAP数据库,具备实时查询与分析经验。 4. 熟悉 Hadoop YARN、Docker 和 Kubernetes,有大规模分布式任务调度或容器化部署与运维经验优先。 5. 熟练使用Linux,能够编写Shell/Python脚本进行系BOSS直聘统管理与调优。 6. 良好的技术钻研精神、问题分析能力及团队合作意识,能在高压环境下解决技术难题。

技能解析

专有技能
  • 数据处理框架
  • SQL数据库
  • 实时数据
  • 软件工程
  • 系统架构
  • 数据存储
  • 数据分析
  • 机器学习
  • 数据挖掘能力
  • 创新技术
  • 数据相关
  • 高可用性
  • 数据处理
  • 有数据分析
  • 数据挖掘
  • 开发语言
相同技能
  • 开发经验
  • 架构设计

数据来自CSL职业科学研究室

技能解析

专有技能
  • 文档编写
  • 合作意识
  • 设计能力
  • 海量数据
  • 功能设计
  • 技术问题
  • 需求分析
  • 解决技术难题
  • 技术文档编写
  • 团队合作
  • YARN
  • 系统管理
  • 与团队合作
  • 问题分析能力
  • 技术难题
  • 分析能力
  • 团队合作意识
  • 分析经验
  • 问题分析
  • 技术文档
相同技能
  • 开发经验
  • 架构设计

数据来自CSL职业科学研究室

工作时间

上午8:30   -   下午5:30
双休不加班

公司福利

  • 五险一金
  • 定期体检
  • 年终奖
  • 带薪年假
  • 餐补
  • 包吃
  • 节日福利

公司福利

  • 餐补
  • 带薪年假
  • 年终奖
  • 五险一金

备注

职位发布者未明确表明公司信息,具体可咨询职位发布人进行确认。

更新于 2025-05-13