TRON DAO

大模型训练算法专家
岗位职责
<ol>
<li>开源架构预训练与优化：
基于 Megatron-LM、DeepSpeed 等主流开源分布式训练框架，负责百亿/千亿参数规模大语言模型（LLM）及多模态/交互大模型（如 Vision-Language 模型）的高效、稳定预训练。</li>
<li>后训练（Post-Training）技术落地：
深入研究并应用 SFT（监督微调）、RLHF/RLAIF、Agentic RL 及奖励模型（Reward Model）等开源对齐方案，提升模型在复杂推理、可信对话及行业场景落地的效果。</li>
<li>分布式训练性能调优：
负责 GPU 集群上的大模型分布式训练性能优化，解决训练过程中的通信瓶颈、显存溢出及负载不均衡问题；通过数据并行、张量并行、流水线并行等策略及低精度训练（FP8/BF16）等手段，最大化集群训练吞吐量与资源利用率；监控训练全过程，及时处理 Loss 异常、梯度爆炸等故障，保障训练任务稳定推进。</li>
<li>从 0 到 1 搭建训练全流程：
搭建完整的大模型训练流程与工程体系，包括训练数据的清洗、去重、质量过滤与配比优化，构建数据准备、模型训练、评测到轻量化部署的全链路闭环机制；参与构建模型评测体系（自动化 Benchmark 与人工评估相结合），根据评测结果反向调整数据配比、训练策略与超参数，持续推动模型能力迭代。</li>
</ol>
任职要求
<ol>
<li>学历与经验：
计算机、人工智能等相关专业硕士及以上学历，3 年以上深度学习领域经验，至少 2 年以上大模型（LLM）预训练或大规模后训练实战经验。</li>
<li>主流大模型算法功底：
熟悉当前主流大模型算法与架构设计，深入理解 Transformer、MoE（混合专家）等核心架构及注意力机制、位置编码等关键组件的原理与实现，对 Llama、DeepSeek、Qwen 等主流开源模型的技术细节有深入了解。</li>
<li>开源框架功底：
熟练掌握 PyTorch，深度精通至少一种主流开源大模型训练框架（如 Megatron-LM、DeepSpeed、Colossal-AI 等）的底层源码与并行实现机制；熟悉 veRL、OpenRLHF、TRL、LLaMA-Factory 等至少一种后训练框架者优先。</li>
<li>集群实战能力：
具备多节点、多 GPU（如 Nvidia A100/H100/H800 等）分布式训练故障排查、性能剖析（Profiling）与吞吐量加速能力；熟悉 NCCL 集合通信、RDMA 网络或 CUDA 算子级优化者优先。</li>
<li>前沿视野与综合素质：
紧跟全球开源社区（如 HuggingFace、DeepSeek、Llama 等）前沿进展，对长上下文建模、动态分层蒸馏、强化学习对齐等有深入理解；具备良好的实验习惯与问题定位能力，对数据质量和超参数敏感，能通过 Badcase 分析定位问题；具备良好的团队协作与沟通能力，有较强的自驱力和技术热情。</li>
</ol>
加分项
<ul>
<li>参与过知名大模型（如 Llama、DeepSeek、Qwen 等）核心训练环节者优先；</li>
<li>在顶级开源项目（GitHub 知名 AI 仓库）有重要贡献；</li>
<li>在 ACL、EMNLP、NeurIPS、ICML、ICLR 等 AI 顶会发表过相关论文。</li>
</ul>

大模型训练算法专家

大模型训练算法专家

This job is no longer available

Talents

Recruiters

About