AI 推理系统专家

该职位来源于猎聘 【团队使命】 北极雄芯大模型云端推理芯片产品线聚焦 GPU 性价比较低的场景。GPU 更擅长通过高吞吐来发挥算力优势，而我们的芯片致力于利用高带宽存储介质与指令集优化，实现低延时推理。芯片的硬件资源优势有赖于精湛的系统设计。团队需要基于我们的芯片特性，探索与传统 GPU 不同的优化思路，包括：集群方案规划、推理框架设计、PyTorch/驱动优化建议、专用算子设计等。我们希望为新型芯片打造一系列系统优化方案，为客户提供一条有别于常规 GPU 的有效选择。 【工作职责】 1、框架集成：负责在 SGLang 和 vLLM 两大主流推理框架中，将我们的芯片作为框架后端进行支持，并规划后期合入社区主线； 2、性能优化：负责在推理框架中研发与集成适配我们芯片的推理优化策略，协同其他团队推进算子开发与优化； 3、客户对接：负责对接客户，支持将芯片接入客户内部的推理框架，解决客户在模型适配过程中的问题； 4、方案研讨：对接公司其他团队，参与集群方案、编译器设计、驱动开发及下一代芯片架构设计的研讨。 【任职要求】 我们希望你： 1、对芯片架构、大模型推理和集群系统有自己的思考，对 AI Infra 充满高涨的热情； 2、能高效使用 AI Agent 辅助日常开发与研究； 3、曾负责过某一推理框架的开发，或主导过芯片在推理场景中的部署落地； 4、熟悉主流大模型架构（如 DeepSeek-V4、GLM-5.2、Qwen3.6、Kimi-K2.7 等）； 5、熟悉 Triton、TileLang、CUDA C 或 Ascend C 等编程语言/框架； 6、硕士及以上学历，电子、通信、计算机等相关理工科专业； 7、具备较强的学习能力和钻研精神，能够承受一定工作压力；积极主动，善于沟通和团队协作，责任心强。