职位&公司对比

职位详情

• 北京
• 3-5年
• 硕士

• 深度学习
• 大模型算法
• 模型加速/性能优化
• 分布式训练

训练/推理 Infra开发工程师 职位描述 1、MOE 训来自BOSS直聘练 Infra 开发 •设计并实现高效的 MOE 训练框架，支持大规模分布式训练，优化训练性能，缩短训练时间 •解决 MOE 训练过程中的技术难题，如专家网络的选择、负载均衡、通信优化等 •与算法团队密切合作，根据算法需求调整和优化训练基础设施，确保算法的来自BOSS直聘顺利实现 2、MOE 推理 Infra 开发 •开发高性能的 MOE 推理引擎boss，支持多种硬件平台（如 CPU、GPU、TPU 等），实现模型的快速部署和推理。 •优化推理流程，提高推理效率和准确性，降低推理成本。 •对推理结果进行监控和分析，及时发现并解决推理过程中出现的问题。 3、系统优化与维护 •对 MOE 训练和推理基础设施进行性能调优，不断提升系统的稳定性和可靠性。 •定期对系统进行维护和升级，确保系统的安全性和兼来自BOSS直聘容性。 •编写技术文档，为团队成员提供技术支持和培训。 4、团队协作与沟通 •与算法团队、数据团队、产品团队等直聘跨部门协作，共同推进项目的进展。 •参与技术交流和分享活动，不断提升自己的技术水平和团队的整体实力。