【快Star】大模型高性能推理算子工程师
上海·北京
硕士及以上
计算机类·自动化类
使用简历深度优化功能,快速提升简历质量
职位介绍
职位描述:1、和领域内最顶尖的算法工程师合作,一起研发业内领先的大模型推理优化方案,优化目标包括但不限于视频生成大模型、多模态大模型;2、调研大模型推理优化方向最新论文,方向包括但不限于低bit量化、通算融合、高性能sparse attention算子等。任职要求:1、计算机、人工智能相关专业,熟悉Linux开发环境,熟练掌握 Python编程语言,熟悉常见算法与数据结构;2、熟练使用NSYS、NCU等性能分析工具,有使用vLLM、SGLang、TensorRT-LLM、xDiT等开源框架经验;3、熟悉分布式推理场景下的各类通信机制,能够针对特定场景设计最优通信方案,了解 DeepEP、Triton-distributed 等开源通信方案原理;4、具有良好的团队合作精神和沟通能力,积极乐观、具备抗压能力、自驱能力;加分项:1、有Nvidia GPU ( Hopper、Blackwell )算子开发经验者优先;2、具备Cute、TileLang、Triton等DSL开发经验;3、具备低bit量化 kernel 开发经验;4、在 ICLR、NeurIPS、ICML 等顶会发表过相关论文。


