AI芯片工程师

该职位来源于猎聘 二、岗位职责 负责Transformer大模型在AI芯片端的推理优化与落地，包括模型量化（INT4/INT8）、稀疏化、算子融合、内存复用等核心技术攻关。 参与AI推理框架（如MindSpore、vLLM、TensorRT-LLM等）的开发与适配，完成大模型pipeline的编写、优化与稳定性保障。 对接芯片硬件架构，分析Transformer模型的访存与算力瓶颈，提出硬件友好的算法优化方案。 主导多模块协同开发与跨部门协作，确保大模型推理项目在端侧/边缘设备上的高效交付与性能达标。 持续跟踪AI推理与芯片技术前沿，迭代优化大模型在硬件平台上的推理速度与稳定性。 三、任职要求 （一）核心硬性要求 底层能力：精通Transformer底层原理，深入理解自注意力机制、多头注意力等核心模块，能从数学与工程层面分析大模型推理瓶颈。 工程经验：具备3年及以上大模型推理优化或AI芯片算子开发经验，有端侧/边缘设备部署实战案例。 技术栈：熟悉至少一种主流AI推理框架（MindSpore/PyTorch/TensorRT），掌握模型量化、稀疏化、算子优化等落地技术；了解NPU/GPU硬件架构优先。 编码能力：熟练使用C++/Python进行工程开发，能独立完成推理pipeline的编写与调试。 （二）优先条件 有云天励飞、地平线、安菲翁等AI芯片/大模型公司工作经验者优先。 参与过千亿级参数大模型推理优化或AI芯片流片项目者优先。 熟悉RISC-V架构、CUDA/TVM算子开发、容器化部署（Docker/K8s）者优先。