岗位详情
岗位描述
- 我们做什么 在这里，你将参与自研大模型推理引擎从0到1的建设，亲手优化千亿/万亿级参数的模型推理性能，让每一次回答更快、更准、更省算力。你将接触真实业务场景，挑战AI Infra行业前沿问题。
岗位职责
- · 参与大模型推理引擎核心模块的设计与开发，增强功能和提升系统吞吐； · 探索并落地先进的大模型推理加速方案，跟进业界最新技术； ·· 跟踪开源社区（如vLLM、TensorRT-LLM、SGLang等）前沿动态，完成技术调研与验证。
岗位要求
- · 硕士及以上学历，计算机、AI、数学、信息、电子等相关专业； · 熟悉Python，了解大模型Transformer基本工作原理； · 具备良好的工程习惯（Linux、Git），学习能力强，能阅读英文技术资料。
- 加分项（非必需） · 有vLLM、SGLang等推理框架使用或二次开发经验； · 有CUDA/Triton算子编写经历； · 有LLM相关论文、开源项目或竞赛经历。
- 我们提供 · 资深大佬1v1带教，拒绝放养，； · 真实业务场景 + 充足GPU/NPU资源，真实项目经验； · 一群热爱技术的同龄人，一起卷技术。