LLM后训练算法工程师-AI4Science

该职位来源于猎聘 厌倦了LLM在文字、图片和视频这些虚拟世界里的无尽优化？渴望在现实世界中去探索前沿，去拥抱真正变革？ 如果是，那么在LLM和science结合的历史十字路口，我们邀请你，成为这场颠覆的主角。 在这里，我们相信science不是通往AGI中能被“顺便解决”的问题，而是AGI的核心战役: 只有攻克科学发现，LLM才能到达新一级别的智能。 在这里，你将亲手参与搭建LLM的RL infra，支持前沿LLM的后训练，加速模型迭代并将其与计算和实验串联，解锁新材料。 在这里，你打造的坚实infra，将为LLM的进化和人类探索未知现实世界做出贡献。 若如此让你期待，那请加入，用你的智慧与AI碰撞，助力人类迈向科学超级智能！ 一、岗位职责： 1、负责开发、优化、和运维大规模分布式 LLM 训练系统，为 AI 驱动科学发现提供动力； 2、与研究人员紧密合作，搭建、调试并维护后训练及强化学习工作流； 3、构建工具并直接支持前沿探索的模型训练。通过持续的自动化建设替代人工流程。完善内部基础设施，致力于提升研发效率与体验。为公司的其余科学家、AI 研究员及工程师的日常工作提供弹药； 4、与产品和其他工程团队合作，打通拥有科学智能的LLM到“AI科学家”的开发链路； 二、岗位要求： 1、硕士及以上学历，有优秀的工程能力，开创或维护过有影响力的开源项目 2、工作方向与LLM的后训练和RL高度相关，能搭建并扩展LLM所需要RL环境的infra 3、有超百卡训练模型的经验和5D 并行大模型训练经验 （数据并行[DP]、张量并行[TP]、流水线并行 [PP]、序列并行 [SP]、 和针对 MoE 的专家并行 [EP]） 4、有丰富的分布式训练框架（如 Megatron-LM, DeepSpeed, TorchTitan）的实操经验，并优化过大规模混合专家模型（MoE）的训练吞吐量 5、开放简单，沟通顺畅，合作能力强，对先进技术充满热情 三 、加分项： 1、在著名大厂基座模型组、大模型公司、和顶尖研究院有工作经验； 2、对后训练和RL算法框架有自己独到的见解；