AI Infra算法工程师

该职位来源于猎聘 职责描述： 1. AI Infra 核心算法开发 面向生命健康领域垂类模型，开展模型部署、推理加速、服务化及资源优化，为上层 AI 应用提供稳定、高效的模型服务；

研究模型量化、推理优化、并行计算等技术，提升模型推理性能与计算资源利用率；

建设模型统一服务能力，支持模型注册、版本管理、部署、调用及监控等；

面向 Agent 应用，建设 Agent Runtime、任务执行、Tool / MCP、上下文与状态管理等基础能力，提升 Agent 的执行效率与稳定性。 2. 系统集成与优化:

将垂类模型和 AI 能力封装为标准化服务；

设计 AI Infra 性能测试与监控体系，从延迟、吞吐、资源利用率、任务成功率等维度持续优化；

推动 Infra 能力部署上线，持续跟踪运行效果，并结合实际反馈完成迭代优化。 3. 技术前瞻性研究 跟踪生命健康领域模型、模型推理优化及 Agent Infra 等领域的最新技术；

探索模型、Agent、工具与计算资源的协同调度，推动 AI 基础设施能力持续演进。 任职要求： 1. 教育背景：

计算机、人工智能、生物医学等相关专业硕士及以上学历。 2. 技术能力：

精通Python/C++等编程语言，具备良好的算法与系统开发能力；

熟悉机器学习、深度学习及Transformer等基础知识，理解模型推理与Serving基本原理；

熟悉PyTorch、Transformers等框架，了解vLLM、SGLang、TensorRT-LLM等至少一种推理部署技术；

具备GPU计算、分布式系统、容器化等相关基础，具备较强的系统性能分析与优化能力。 3. 加分项：

有推理加速、模型量化、GPU优化等相关经验；

有模型平台、Agent平台或分布式系统建设经验；

有生命健康领域垂类模型相关项目经验者优先。