职位&公司对比

职位详情

• 广州
• 5-10年
• 硕士

• 掌握rm、ppo等模型
• 大模型分布式推理

工作内容：boss "1、深入跟踪调研大模型等AI技术的前沿动态，研究制定AI新技术在本公司相关领域内的实施方案，牵头推进核心代码的研发和现网实施。 2、负责大模型推理领域中的研究及算法工程化实现； 3、负责CV或者NLP大模型微调优化以及微调工具研发，实现大模型在行业场景的应用落地； 4、解决大模型分布式推理的芯片迁移工作和结合芯片技术实现软硬件协同加速优化； 5、跟进前沿的大模型推理部署加速优化技术，保持技术的领先； 6、模型压缩技术研发，包括但不限于量化、剪枝、张量分析、知识蒸馏等； 7、负责大模型在国产信创技术栈的迁移以及落地。" 工作要求： "1、熟悉分布式推理框架/调度pipeline，熟悉大模型分布式推理，了解流水线/tensor数据并行等各种技术，了解重计算的技术原理； 2、熟悉常用深度学习推理优化技术和算法，如压缩、剪枝、知识蒸馏等； 3、了解和熟悉模型各种并行策略，有大模型实际部署和优化的经验优先； 4、精通Python、C++,JAVA，具备较强代码及工程实现能力，有基于Tensorflow，Pytorch等深度学习平台的算法开发经验； 5、熟悉DeepSpeed，kanzhunMegatron等大模型框架，kanzhun并了解各个功能模块底层实现原理优先； 6、模型训练能力扎实，精通模型结构CNN、Transformmer以及原理； 7、掌握rm、ppo等模型的实现细节，熟悉强化学习最新agent技术落地方案；"