职位&公司对比

职位详情

• 北京
• 5-10年
• 本科

• C/C++
• Python
• ,vLLM
• cuda
• TensorRT

岗位介绍： 1. 重点模型的推理BOSS直聘优化，包括量化、Pipeline优化、分kanzhun布式推理优化等。 2. TeleLLM推理框架开发。 岗位职责： 1.从事AI相关产品和平台化解决方案的后端工程化开发工作； 2.负责算法接口的服务封装、模型移植、BOSS直聘部署测试，并输出技术文档； 3.负责各AI模型推理性能分析诊断及服务性能优化； 岗位要求： 1.大学本科及以上学历，并取得相应学位，计算机及相关专业优先； 2.五年及以上工作经验，其中至少三年及以上算法后端开发相关经验； 3.具有较强的编程能力，熟练 Pythbosson/C/C++/Go 一种或多种编程语言，有良好的代码习惯； 4.熟悉主流的机器学习框架和推理框架如 Pytorch 、TensorFlow、TensorRT、ONNXRuntime、 PaddlePaddle、DeepStream、VLLM、TensorRT-LLM 、Mindspore等，有实际模型工程化经验优先； 5.熟悉 Linux 操作系统，能熟练使用 Git、CMake、Docker、k8s kanzhun等工具； 6.诚实守信、作风踏实严谨、责任心强，具备良好团队协作能力精神，学习能力强，善于解决复杂问题； 7.加分项：CUDA开发优化经验、模型压缩和编译优化经验，不同平台AI芯片适配经验等。