大模型端侧部署软件工程师

该职位来源于猎聘 职位描述:

• 负责 LLM/VLM 模型在车端硬件平台的部署 2. 负责 LLM/VLM 运行 Pipeline 优化及问题解决 3. 负责 LLM/VLM 相关客户项目支持 4. 参与 SDK 中的 NN 推理框架开发工作 职位要求:
• 本科及以上学历，计算机科学、电子工程或自动化等相关专业. 2. 5年以上相关工作经验, 3年以上的深度学习开发经验.
• 熟悉计算机系统体系架构，软件性能优化加速，熟练使用 C++ 开发软件. 4. 理解 Transformer 算法原理，熟悉常见深度学习模型的编译和量化工具. 5. 具备算子开发能力，负责自定义算子在特定硬件平台的优化. 6. 有NVIDIA、TI、NXP、高通、华为、地平线、黑芝麻等平台深度学习模型部署经验者优先. 7. 熟练掌握C/C++、Python、Git/Gerrit、CMake、Makefile 等基本技能. 8. 有独立工作的能力,同时具有很好的团队协作能力与沟通能力,对技术执着,追求卓越品质.