AI算力服务工程师-杭州

该职位来源于猎聘 一、岗位职责 业务需求深度识别：作为集团AI业务算力需求的对接人，精准分析模型部署需求，负责将AI业务场景转化为具体的算力（TPM、MU等）需求和 SLO 性能需求，并提供初步的部署可行性建议。 跨团队服务协同：建立并持续优化集团内部的推理服务流程。协调应用团队、推理引擎团队与 SRE 团队，组织方案评审并跟进交付进度，确保服务保质保量上线。 模型服务 SLO 管理：监控并维护推理平台上模型服务的性能表现。负责核心业务的推理性能跟踪，发现性能偏差时协同引擎团队进行调优，确保业务侧感知的推理速度与稳定性。 AI Agent 与 Skill 沉淀：结合服务过程中的共性问题，利用 AI Agent 或 Skill 工具实现服务流程自动化，沉淀业务场景下的标准化插件与实践。 二、职位描述 出色的需求分析力：能将模糊的业务需求拆解为技术指标（如 TPOT、cache命中率等），并具备算力成本和容量估算能力。 熟悉推理技术选型：对大模型（MaaS）业务模式、Token 计费逻辑、推理算力特性有深入理解者优先，了解 vLLM 或 SGLang 的基本原理与配置（如并发控制、内存管理等）。 卓越的沟通协作：具备极强的对客服务意识与跨部门协调能力，能高效推动多方团队达成共识并解决项目卡点。 对大模型生态（如 Prompt Engineering, RAG）有实际操作经验，对 AI Agent 框架有兴趣或初步尝试，能通过 Skill 开发提升服务效率或业务效能。 经验背景：本科及以上学历，具备 AI 行业解决方案、技术支持或项目管理相关经验，理解 LLM 服务的生命周期管理。