职位&公司对比

职位详情

• 北京
• 1-3年
• 本科

• 训练框架
• 大模型

大模型训练与推理引擎工程师（社招） 工作地点：北京 岗位亮点 ● 加入快手领先业界的「可灵」大模型团队。「可灵」大模型在视频生成领域权威评测（Video-Generation-Arena-Leaderboard）中，图生视频方向排名世界第一，明显领先Google Veo 2模型。 ● 组内技术氛围浓厚，每年都有正式员工作为第一作者，在ATC等系统领域顶级会议发表多篇论文，业界首次提出并实现了pipeline-aware offload等创新技术，并已合入Megatron Core。 ● 每年多次受邀在NVIDIA GTC大会上进行技术分享，与NVIDIA、清华大学计算机系有深度学术与工程合作，合作成果发表于多个国际顶级系统会议。 ● 深度参与最前沿的万卡级SOTA视频生成模型训练与推理优化，包括业内首个视频生成领域的sparse attention、FP8训练与推理方案，以及实现超大规模异构集群端到端优化等。 岗位职责 1. 负责快手可灵大模型训练与推理引擎的研发与优化，包括训练框架、微调平台及推理平台的开发建设。 2. 与业务团队合作，搭建定制化的大模型微调与推理平台，助力业务提升，获得实际业务收益。 3. 深入研究并落地大模型训boss练推理领域前沿技术，并积极推进工程boss实现与创新论文发表，包括但不限于： ○ 超大规模异构集群下的训练稳定性优化（集群建模、热插拔、快速恢复、冗余调度等kanzhun）； ○ 模型小型化与低成本推理优化（FP8训推优化、sparse attention算法工程协同、蒸馏技术开发等）； ○ 创新的数据调度与重组框架（自动并行、端到端solver优化、packing与split方案创新等）； ○ 等等 4. 持续优化现有大模型工具链，提升训练与推理整体效率、稳定性，降低运行成本。 任职要求 1. 计算机、电子工程、数学等相关专业，本科及以上学历，0~3年相关工作经验。 2. 熟悉模型训练与推理的流程及性能优化方法，熟悉Transformer/BERT/GPT架构者优先。 3. 熟练掌握Python/C++语言，熟悉并能熟练使用PyTorch训练框架。 4. 热爱技术探索，有良好的团队协作意识，具备分析并解决复杂工程问题的能力。 5. 以下经验为加分项： ○ 具备大模型训练、微调、推理优化经验； ○ 有分布式训练或HPC相关知识，熟悉集合通信或CUDA编程； ○ 熟悉Deepspeed、Megatron、ColossBOSS直聘al-AI、Ray、Horovod等框架之一； ○ 有机器学习平台或深度学习框架的开发经验； ○ 在国际顶级会议或期刊上发表过相关论文。 联系方式：liaoyiqiao@kuaishou.com