推理部署算法实习生 (MJ000526)

该职位来源于猎聘 岗位职责： 1. 设计和搭建基于自研芯片的大模型推理集群系统； 2. 研究并优化大模型推理核心技术，如 PD 分离部署、KV Cache 管理、动态调度策略等； 3. 结合芯片架构特点，制定高效的推理执行方案； 4. 分析和优化集群组网方式、通信延迟、资源调度等性能瓶颈； 5. 推进主流推理框架（如 vLLM、SGLang、TensorRT-LLM）在自研芯片上的适配和优化； 6. 与芯片架构师、、框架开发者、算法团队密切协作，实现端到端的高效推理能力落地。 任职要求： 1. 计算机、人工智能、电子工程等相关专业，硕士及以上学历。 2.可实习半年以上，一周4-5天。