推理部署算法工程师 (MJ000396)

该职位来源于猎聘 岗位职责： 1. 设计和搭建基于自研芯片的大模型推理集群系统； 2. 研究并优化大模型推理核心技术，如 PD 分离部署、KV Cache 管理、动态调度策略等； 3. 结合芯片架构特点，制定高效的推理执行方案； 4. 分析和优化集群组网方式、通信延迟、资源调度等性能瓶颈； 5. 推进主流推理框架（如 vLLM、SGLang、TensorRT-LLM）在自研芯片上的适配和优化； 6. 与芯片架构师、、框架开发者、算法团队密切协作，实现端到端的高效推理能力落地。 任职要求： 1. 计算机、人工智能、电子工程等相关专业，本科及以上学历，有系统、性能分析或 AI 推理相关经验。 2. 有大模型推理集群部署或推理服务平台的设计与优化经验 3. 熟悉推理调度流程，理解 prefill/decode、KV Cache、Token Streaming 等关键机制 4. 有集群部署经验，了解集群组网、通信协议（如 NCCL）、分布式系统基本原理 5. 能理解芯片架构（计算/通信/内存）