大模型推理引擎开发工程师

该职位来源于猎聘 岗位描述 作为校招生加入我们的大模型技术团队，参与大模型推理引擎的核心研发工作，聚焦推理性能优化、引擎模块开发与工程化落地。以C++为核心参与底层推理引擎开发，结合Python构建推理工具链与适配脚本，协助支撑大模型的高效推理。 岗位职责 1、参与大模型推理引擎的模块研发与迭代，使用C++完成底层基础代码编写、调试与优化； 2、利用Python开发推理工具、模型适配脚本、自动化测试用例，辅助上层推理框架搭建； 3、协助完成Transformer类大模型（LLaMA/Qwen/GLM等）的推理优化，参与算子优化、显存优化等相关工作； 4、学习并应用CUDA/TensorRT/ONNX Runtime等工具链，协助完成GPU推理相关开发与调优； 5、调研大模型推理领域前沿技术，协助完成技术方案梳理与落地验证； 6、配合团队完成推理引擎的测试、问题排查，参与工程化落地相关工作。 任职要求 1、计算机、电子工程、软件工程、数学等相关专业硕士及以上学历，2026届毕业生； 2、扎实掌握C++基础，熟悉C++11及以上标准，了解多线程、内存管理基础，具备良好的编码习惯； 3、熟练使用Python，具备基础的Python编程与脚本开发能力，能独立完成简单工具开发； 4、掌握数据结构、算法、计算机体系结构基础，对AI、大模型、推理引擎有一定兴趣和了解； 5、了解CUDA编程、并行计算、Transformer架构者优先； 6、具备良好的学习能力、逻辑思维能力和团队协作能力，愿意主动探索新技术，有责任心。 加分项 1、有C++/Python相关项目、算法竞赛经历，或开源项目贡献经验； 2、了解大模型推理原理、量化技术（INT4/INT8等）、分布式推理相关知识； 3、有GPU编程、机器学习框架（PyTorch/TensorFlow）使用经验； 4、发表过AI、高性能计算相关论文或获得过相关竞赛奖项。