职位&公司对比

职位详情

• 北京
• 3-5年
• 本科

微调与优化开源大模型：参与大规模语言模型（GLM、T5、Alibert等开源模型）的微调与优化，针boss对文本分类任务提升模型表现，探索如何利用较小的模型达到更高的性能。 高效推理工具应用：使用高效推理工具（如LlamaCPP、ToBOSS直聘rch、Huggingface等），优化推理速度和内存占用，特来自BOSS直聘别是在资源受限的环境下，提升推理效率。 量化与模型BOSS直聘压缩：参与量化推理工作，熟悉INT4、Q4、Q2等量化技术，探索如何通过量化与模型压缩提升推理效率和模型性能，特别是在硬件资源有限的场景下。 LoRA与SFT技术应用：深入理解并应用LoRA、SFT等前沿技术，优化模型的适应性和性能，探索其在实际项目中的应用效果。 KVCache与多实例推理：参与KVCache（Key-Value Cache）等优化技术的应用，探索多实例推理与高效批量推理策略，提升大模型推理的吞吐量和响应速度。 团队合作与技术落地：与工程师及产品经理密切合作，理解业务需求，推动技术在实际项目中的落地和优化。 任职要求 学历要求：计算机科学、人工智能、机器学习、自然语言处理或相关专业本科或研究生。 编程能力：熟悉Python，具备扎实的编程能力，能够快速编写和调试代码；有Linux开发环境使用经验，了解常用开发工具与版本控制（如Git）。 深度学习框架：熟悉常见的深度学习框架，如PyTorch、TensorFlow，了解Huggingface等NLP工具包，能够熟练使用这些工具进行模型训练和推理。 大模型相关知识：对大语言模型（LLM）及其相关技术（如微调、SFT、LoRA、量化等）有一定了解，并能在项目中应用这些技术提升模型性能。 推理与部署能力：了解如何使用GPU/CUDA进行推理加速，熟悉常用的推理工具和技术（如LlamaCPP、Torch等），能够进行模型的高效部署与推理。 数学与算法基础：具备扎实的数学基础，尤其是线性代数、概率统计等，能够理解深度学习算法原理，能够通过算法优化提升模型性能。 问题解决能力与学习能力：具有较强的自学能力，能快速学习新技术，解决实际问题，并能将理论与实践结合，提出创新的技术解决方案。 沟通与协作能力：良好的团队合作精神和沟通能力，能够与团队成员密切配合，共同推动项目进展，快速响应团队需求。 加分项：有NLP、深度学习、机器学习项目经验者优先。量化推理（如INT 4int8）与KVCache等来自BOSS直聘优化技术者优先 熟悉多任务学习、批量推理、多实例推理等高级推理技术者优先。