AI基础运维工程师（苏州杭州）

该职位来源于猎聘 AI基础运维工程师 岗位职责 1.负责GPU显存管理体系的深度定制与优化，优化Torch内存分配器，实现显存碎片自动化整理与最小化，提升显存利用率，支撑更大规模模型的单卡/多卡部署; 2.负责资源识别监控、分配与管理，开发高效可靠的负载管理和资源编排调度功能; 3.负责集群部署平台搭建方案，实现大模型服务的快速上线与版本管理； 4.负责GPU功耗与能效优化，基于DCGM等工具构建全链路功耗监控体系，动态调整GPU频率与功耗墙策略，在性能损失〈1%的前提下实现集群能耗降低10%-15% 5.负责目研A加速卡的软件生态建设 职位要求: 1.基础架构与容器技术: (1)精通Linux操作系统原理，具有扎实的系统运维经验 (2)精通Kubernetes(K8s)架构及生态，熟悉 Docker/Containerd容器技术. (3)有K8s Operator 开发经验或熟悉Kubeflow、Volcano等Al调度组件者优先。 2.GPU与高性能计算经验: (1)深入理解GPU硬件架构。 (2)熟悉高性能网络技术，理解InfiniBand(1B)或RoCE网络架构，熟悉RDMA协议及NCCL通信原理。 3.深度学习框架知识: 熟悉 PyTorch等主流深度学习框架的底层运行机制(如 DDP, FSDP, Pipeline Parallelism)。具备大规模分布式部署(Multi-Node Multi-GPU)的故障排查经验。 4.编程与开发能力: 熟练掌握Golang、C++等编程语言，具备编写自动化运维工具或平台组件的能力。 加分项:大模型经验:有LLM(大语言模型)训练集群运维经验，熟悉Megatron, DeepSpeed等大模型训练工具高性能存储:熟悉并行文件系统(如Lustre,GPFS)或高性能对象存储(如Ceph, MinlO)在AI场景下的优化。监控体系:搭建过基于DCGM的精细化GPU监控告警体系。