AI Infra工程师-推理方向实习生

【职位职责】 1. 参与大模型推理引擎与高并发在线服务的研发、部署与极致性能优化，支撑百万级 QPS 的稳定服务； 2. 研究并落地量化、蒸馏、稀疏化、投机解码、KV Cache 管理等推理优化技术； 3. 深度分析算子、计算、通信与显存瓶颈，持续优化吞吐、首 Token 时延、端到端时延、显存占用与单位 Token 服务成本； 4. 开发高性能 CUDA 算子与推理内核，适配新一代硬件架构，探索非 Transformer 模型的高效推理方案； 5. 建设弹性扩缩容、流量调度、故障自愈与全链路可观测体系，保障线上推理服务的高性能、高质量与高可用性。 【任职要求】 2027年及以后毕业的在校生，计算机、软件工程等相关专业，硕士及以上学历； 2. 扎实的计算机体系结构、并行计算与操作系统基础，精通 C++/Python，熟悉 CUDA 编程； 3. 深入理解大模型推理原理，至少使用或研究过 vLLM、SGLang、TensorRT-LLM 等主流推理框架中的一种； 4. 具备优秀的性能分析与工程实现能力，能系统性地定位并解决复杂性能瓶颈； 5. 对高性能计算、GPU 优化或推理系统有强烈热情，追求极致性能与工程质量。 6. 加分项： 7. 有高性能算子开发、编译器（TVM/MLIR）、GPU 架构优化或推理系统项目经验； 8. 熟悉模型压缩技术（量化/蒸馏/剪枝），有实际部署与精度恢复经验； 9. 有高并发在线服务、负载均衡、弹性调度或分布式系统开发经验； 10. 在 MLSys/PPoPP 等系统顶会发表过论文，或在主流开源推理框架中有核心贡献。 【学历要求】 硕士及以上 【硬性专业要求】 计算机相关专业、软件工程相关专业