大模型开发工程师（苏州上海）

该职位来源于猎聘 岗位职责 负责大模型在公司自研芯片上的开发与适配，深入理解大模型结构及推理机制，结合芯片特性优化推理方案，实现性能与算力匹配。 运用profiling工具定位性能瓶颈，排查精度、输出异常，制定并落地优化方案。 独立完成大模型端到端适配全流程，输出适配报告，保障模型在芯片上稳定高效运行。 应用大模型常用优化手段，结合芯片架构平衡性能、精度与资源占用，提升推理效率。 熟悉主流推理框架，优先基于vLLM开展适配工作，解决框架与芯片协同的兼容性、性能问题。 跟踪大模型前沿技术，探索其在公司芯片上的落地，提升芯片适配能力。 配合芯片团队反馈优化建议，协同迭代，撰写技术文档、沉淀经验。任职要求 核心要求 本科及以上学历，计算机、人工智能等相关专业，1-3年大模型开发、推理优化或芯片适配经验。 熟悉大模型核心结构与推理机制，精通常用优化手段，具备扎实理论与实践基础。 熟练使用profiling工具，能独立排查精度、输出异常及性能问题。 具备大模型端到端适配能力，有芯片场景适配经验者优先。 熟悉主流推理框架，优先掌握vLLM，能开展框架二次开发与芯片适配。 掌握Python/C++，熟悉深度学习框架，了解CUDA及芯片架构基础。 具备良好沟通协作、问题解决及学习能力，责任心强，能独立承担核心任务。 （二）加分项 有长文本、MoE架构或多模态模型适配优化经验者优先。 具备大模型图优化、内存优化实战经验者优先。 熟悉芯片底层架构，有自研芯片适配、算子优化经验者优先。 了解先进推理优化技术并具备实践经验者优先。 有相关项目经验、技术专利或论文者优先。