- 【超级实习生】AI开发岗(大模型推理加速)-北京
- [实习]
- ——
- 【超级实习生】AI开发岗(大模型推理加速)-北京
- 收藏
- 举报
- 面议
- |
- 博士及以上
- |
- 招聘 人数不限
- 11-02 18:00 更新
-
北京市丰台区
职位详情
1、参与大模型(LLM)推理引擎的开发和优化,包括但不限于算子优化、显存管理、量化压缩等。
2、实现并改进推理加速技术(如 FlashAttention、PagedAttention、Continuous Batching、Speculative Decoding 等)。
3、针对国产芯片(如昇腾、昆仑芯、海光等)进行算子级与框架级调优。
4、分析模型推理性能瓶颈,设计针对性优化方案,降低延迟和提高吞吐量。
5、跟踪前沿推理加速论文与开源项目(如 vLLM、TensorRT-LLM、SGLang、LMDeploy 等),并进行落地验证。
任职条件:
1、博士及以上学历在读,计算机、人工智能、数学等相关专业。
2、具备良好的编程能力,熟练掌握 C++/Python 语言,有 Ascend C 算子开发经验者优先。
3、熟悉 Transformer 模型结构及常见推理优化技术(如量化、稀疏化、算子融合、KV Cache 优化等)。
4、了解大模型推理框架(如 vLLM、SGLang、TensorRT-LLM 等)及分布式推理。
5、具备良好的团队合作与沟通能力,拥有创新思维与较强的问题解决能力。
中移九天人工智能科技(北京)有限公司
-
- 所属行业 计算机服务(系统/数据/维护/安全)
- 涉及领域 --
- 公司性质 国有企业
- 公司规模 1000-4999人
- 公司网址 --
- 所在地址 金泽大厦(广宁伯街)
看了该职位的人还会看 更多