模型部署工程师

该职位来源于猎聘 岗位职责： 1.模型部署与落地： 负责感知决策规划等深度学习模型在 NVIDIA Orin X 平台上的高性能部署与推理优化。

• 性能瓶颈攻克： 针对自动驾驶实时性要求，深入剖析模型计算图，通过模型量化（PTQ/QAT）、模型剪枝、算子融合、内存复用等技术手段，显著降低模型显存占用，解决推理延迟大的问题。
• 推理引擎优化： 基于 TensorRT、CUDA、C++ 等技术栈，设计并实现低延迟、高吞吐的端侧推理框架，支持多模型、多精度（FP16/INT8）的统一调度与执行。
• 全栈性能调优： 运用 Nsight Systems/Compute 等性能分析工具，定位计算、内存、调度瓶颈，通过流水线并行、CUDA Graph 等技术提升整体系统效率。
• 闭环迭代： 与算法团队紧密协作，提供模型结构设计的可部署性建议，推动算法模型在精度与速度之间的平衡，实现训练-部署的高效闭环。 任职要求： 1.本科及以上学历，计算机、自动化、电子工程等相关专业。
• 两年以上自动驾驶或AI模型部署相关经验。 技术栈：
• 精通 TensorRT 模型加速库，具备自定义算子开发能力。
• 熟练掌握 CUDA 编程及并行优化技巧。
• 深入理解模型量化原理（PTQ/QAT），有实际的精度对齐与恢复经验。
• 熟悉常见的模型压缩技术（剪枝、蒸馏、低秩分解等）。
• 编程能力： 熟悉 C++ 和 Python，具备良好的代码规范和调试能力, 具备解决复杂 Core Dump、内存越界等底层问题的能力。 [加分项]

有自动驾驶 L2+/L3 级别量产项目经验。

有Orin X平台部署优化的实际项目经验。

熟悉 PyTorch/TensorFlow 框架的底层原理。

熟悉 Apollo、Autoware 等开源自动驾驶框架。