【快Star】容器&大模型推理调度研发工程师
杭州·北京
本科及以上
自动化类·计算机类
使用简历深度优化功能,快速提升简历质量
职位介绍
职位描述:
1、超大规模算力调度:参与快手容器云平台的架构设计与开发,探索面向大模型的资源调度、服务编排、容器引擎等前沿领域,直接驱动千万核级与数十万卡级算力的高效运转;2、云原生基础设施:基于云原生技术栈,构建海量异构资源(CPU/GPU/NPU)的多集群联邦与统一调度能力,打造低成本、高弹性的大模型算力基座,持续突破资源效率瓶颈;3、稳定性与性能优化:完善大模型服务微架构分析与性能瓶颈观测体系,深入支撑容器平台及快手推理业务的全链路稳定性问题,让每一毫秒的延迟优化都转化为用户体验的提升;4、AI-Infra前沿探索:投身云原生与大模型推理的交汇领域,研究GPU混部调度、大模型推理容量预测、实例快速启动等核心技术,让大模型推理的GPU利用效率实现质的飞跃。
任职要求:
1、本科及以上学历,计算机相关专业,具备快速掌握新技术的能力,不给自己设限;2、热爱技术,尤其热爱大模型AI基础设施,对云原生、容器调度、大模型推理底层技术有发自内心的好奇与热情,愿意在这个方向持续深耕;3. 扎实的数据结构与算法功底,熟练掌握至少一门语言(Golang/Java等),代码整洁、有设计感;4、对K8s等云原生生态有深入理解,对大模型技术栈有一定了解,关注业界计算基础设施发展趋势。加分项:1、有大规模集群资源调度、AI Infra基建、大模型推理稳定性相关实践经历。
1、超大规模算力调度:参与快手容器云平台的架构设计与开发,探索面向大模型的资源调度、服务编排、容器引擎等前沿领域,直接驱动千万核级与数十万卡级算力的高效运转;2、云原生基础设施:基于云原生技术栈,构建海量异构资源(CPU/GPU/NPU)的多集群联邦与统一调度能力,打造低成本、高弹性的大模型算力基座,持续突破资源效率瓶颈;3、稳定性与性能优化:完善大模型服务微架构分析与性能瓶颈观测体系,深入支撑容器平台及快手推理业务的全链路稳定性问题,让每一毫秒的延迟优化都转化为用户体验的提升;4、AI-Infra前沿探索:投身云原生与大模型推理的交汇领域,研究GPU混部调度、大模型推理容量预测、实例快速启动等核心技术,让大模型推理的GPU利用效率实现质的飞跃。
任职要求:
1、本科及以上学历,计算机相关专业,具备快速掌握新技术的能力,不给自己设限;2、热爱技术,尤其热爱大模型AI基础设施,对云原生、容器调度、大模型推理底层技术有发自内心的好奇与热情,愿意在这个方向持续深耕;3. 扎实的数据结构与算法功底,熟练掌握至少一门语言(Golang/Java等),代码整洁、有设计感;4、对K8s等云原生生态有深入理解,对大模型技术栈有一定了解,关注业界计算基础设施发展趋势。加分项:1、有大规模集群资源调度、AI Infra基建、大模型推理稳定性相关实践经历。


