职位&公司对比

职位详情

• 北京
• 不限
• 博士

• 大模型算法
• C/C++
• Python
• 分布式训练
• 发表算法相关优秀论文
• 团队管理经验
• 算法工程化经验
• 高并发系统
• 大模型推理优化
• 高性能算子优化
• GPU集群调优
• ILM推理全链路优化

工作内容： 1、负责搭建和优化大规模分布式 GPU推理集群，设计高性能、高可用的推理架构，支持千亿级参数模型的低延迟高吞吐推理服务 2、开发与优化大模型推理引擎(如LM、SGlang等)，集成前沿技术(如FlashAttention、PageAttention、Continuous Batching等)，持续提升推理效率。 3、主导算子级优化如 来自BOSS直聘CUDA 算子开发，最大来自BOSS直聘化 GPU 资源利用率。 4、设计分布式推理方案(多机多卡、流水线并行等)，解决通信瓶颈，优化资源调度策略 职位要求： 1、人工智能大模型相关专业博士或5年以上高并发系统开发经验或2年以上大模型推理优化经验。 2、精通 C++/Python，熟悉 CUDATriBOSS直聘ton 开发，有高性能算子优化经验;熟悉主流框架(PyTorch、TensorRT) 3、深入理解分布式系统设计，具备大规模 GPU集群调优经验，熟悉 NCCL、RDMA 等通信优化技术。 4、熟悉 ILM推来自BOSS直聘理全链路优化(如 KVCache 管理、显存优化)，精通量化(INT8/FP8)、FlashAttention、Continuous Batching等核心方法。