职位&公司对比
职位详情
- 北京
- 1-3年
- 本科
- Python
- Scala
- Spark
- Flume
- Storm
- Kafka
- Hadoop
- Impala
岗位职责: 1、负责离线数仓架kanzhun构设计及ETL任务开发和维护; 2、负责提升基于HIve、Hbase数据存储集群的高可用性、高性能、高扩展特性; 3、负责设计和建立基于Flink或Spark实时数据处理框架; 4、研究Hadoop/Spark/Hbase/Hive/Flink等开源项目,对线上任务进行调优,并开发通用组件; 5、负责数据接口服务的设计及开发; 6、负责技术攻关和创新技术引用,开发具有数据分析、数据挖掘能力的创新型产品; 任职资格: 1、本科及以上,计算机、软件工程、统计学、数据挖掘、机器学习等相关专业,3年以上大数据相关工作经验; 2、熟练使用javkanzhuna、scala、python等开发语言中的一种; 3、有hadoop和spa来自BOSS直聘rk、hive、flink实际开发经验。了解大数据组件的使用限制和应用场景,如hdfs,yarn,hbase,hive,flume,kafka,zk,impala,kylin,kudu,ES,Storm、MongoDB等。 4、熟悉mysql、oracle、ElasticSearch、Redis等关系型或NoSQL数据库,了解应用场景和使用限制; 5、熟悉linux操作系统及常用命令; 6、熟悉HDFS分布式文件系统架构,熟练掌握Hadoop/Hive/hbase的运维和调优方法; 7、熟练使用过azkaban、airflow、apache dolphin等开源调度工具优先。
职位详情
- 北京
- 5-10年
- 本科
- 实时
- 要求数据开发经验
**岗位职责:** 1. 构建与优化网络流量日志的流处理与威胁检测平台。 2. 解决海量数据实时处理、存储与检索中的技术难题。 3. 参与需求分析、功能设计及技术文档编写。 4. 与团队合作,攻克开发与运BOSS直聘维中的技术问题。 **任职要求:** 1. 本科BOSS直聘及以上学历,计算机相关专业,5年以上开发经验,2年以上大数据流处理经验。 2. 精通分布式编程,熟悉Flink、Spark Str直聘eamBOSS直聘ing等流处理框架,具备架构设计能力。 3. 熟悉ClickHouse、Apache Druid、StarRocks、HBase等OLAP数据库,具备实时查询与分析经验。 4. 熟悉 Hadoop YARN、Docker 和 Kubernetes,有大规模分布式任务调度或容器化部署与运维经验优先。 5. 熟练使用Linux,能够编写Shell/Python脚本进行系BOSS直聘统管理与调优。 6. 良好的技术钻研精神、问题分析能力及团队合作意识,能在高压环境下解决技术难题。
技能解析
- 数据处理框架
- SQL数据库
- 实时数据
- 软件工程
- 系统架构
- 数据存储
- 数据分析
- 机器学习
- 数据挖掘能力
- 创新技术
- 数据相关
- 高可用性
- 数据处理
- 有数据分析
- 数据挖掘
- 开发语言
- 开发经验
- 架构设计
数据来自CSL职业科学研究室
技能解析
- 文档编写
- 合作意识
- 设计能力
- 海量数据
- 功能设计
- 技术问题
- 需求分析
- 解决技术难题
- 技术文档编写
- 团队合作
- YARN
- 系统管理
- 与团队合作
- 问题分析能力
- 技术难题
- 分析能力
- 团队合作意识
- 分析经验
- 问题分析
- 技术文档
- 开发经验
- 架构设计
数据来自CSL职业科学研究室
工作时间
公司福利
- 五险一金
- 定期体检
- 年终奖
- 带薪年假
- 餐补
- 包吃
- 节日福利
公司福利
- 餐补
- 带薪年假
- 年终奖
- 五险一金
备注
职位发布者未明确表明公司信息,具体可咨询职位发布人进行确认。