AI大模型推理工程师
摩尔线程
面议
工作城市 北京 / 上海 / 杭州招聘人数 14岗位类型 校招招聘单位 GPU Perf Team(GPT)
内容来自「摩尔线程招聘」官方招聘页面 · 采集于 2026-11-11
岗位详情
岗位描述
- 1. 参与大语言模型、多模态模型等 AI 模型的推理部署、性能优化和服务化建设。 2. 协助搭建高性能、低延迟的大模型推理服务，支持模型在实际业务场景中的应用。 3. 参与 Transformer、Attention、KV Cache、Batching、量化等推理相关技术的学习、调研与实现。 4. 参与 vLLM、TensorRT-LLM、Triton、ONNX Runtime、SGLang 等推理框架的接入、测试与优化。 5. 协助进行模型推理性能压测、瓶颈分析和资源利用率优化。
岗位要求
- 1. 计算机、人工智能、软件工程、电子信息、自动化、数学等相关专业优先。 2. 具备扎实的计算机基础，熟悉数据结构、操作系统、计算机网络、并行计算等基础知识。 3. 熟悉 Python，了解 C++，具备良好的编码能力和工程实践习惯。 4. 了解深度学习基础，熟悉 PyTorch、TensorFlow、ONNX 等至少一种深度学习框架或模型格式。 5. 了解 Transformer、Attention、LLM 推理流程等相关知识。 6. 对大模型推理优化、AI Infra、GPU 计算、模型服务化方向有浓厚兴趣。 7. 具备良好的学习能力、问题分析能力和沟通协作能力。