模型分析（上海苏州杭州）

该职位来源于猎聘 职位描述 负责模型分析相关工作，包括benchmark测试、完成客户的测试需求，硬件性能测试，模型性能测试，同时担任分析工具优化与开发工作。 负责自动化测试脚本开发，分析工具智能化开发等，分析工具中cost model开发与优化。 负责智能化分析助手的tool开发。 职位要求 任职要求

• 熟悉业界典型大模型、多模态等模型架构，熟悉transformer。对推理引擎有较深理解如vllm、SGLang、TensorRT等，了解分布式部署等技术。熟练使用Python等开发语言，可以独立承担开发任务。 2.熟练使用PyTorch框架，可对各类LLM进行神经网络层面的profiling分析。 3.熟练掌握CUDA性能优化手段和nsight system，有算子编写优化项目经验者优先。 4.熟悉性能建模，性能分析与优化，或拥有CPU/GPU架构相关经验。 5.熟悉大模型加速技术，如mlc-llm，llama.cpp等。 6.有agent工具开发经验、熟悉fuction calling、MCP协议优先。