【快Star】AI Infra工程师
北京
本科及以上
电子信息类·自动化类
使用简历深度优化功能，快速提升简历质量
职位介绍
职位描述:
【团队介绍】作为大模型与搜推广业务的 AI 基础设施核心团队，业务支撑包括可灵 AI 视频/图像生成、内容推荐与商业化。覆盖 AI Infra 全栈：万卡级 GPU 调度（训推一体、多云联邦）、大模型数据引擎（Ray 万卡规模、DataLake 自研存储、DataFlow 编排）、搜推广样本/特征引擎、端到端 MLOps 与 AI-Agent 平台化探索。我们做的是业界没有现成答案的事——对标字节 MegaScale、Meta Llama 3、Databricks Mosaic、Anthropic Constitutional AI 的真实工程实践，配业界前沿的真实场景与资源支持。1、负责分布式大语言模型 (LLM) 推理系统的底层基础设施研究与探索，包括 GPU 和 RDMA 等，提升 GPU 环境下的稳定性和计算效率；2、负责大规模模型训练场景优化工作，通过建设全面的异常发现、故障自愈机制，提升平台训练 MFU，降低训练成本；3、基于容器以及 Kubernetes 技术，负责对机器学习领域中的资源调度、模型训练、模型推理、数据管理等多个子方向的成本效率优化工作；4、持续关注并跟进业界技术发展，比如超长上下文、思维链、多模态方向。
任职要求:
1、本科及以上学历，计算机相关专业；2、掌握常用数据结构与算法，具备扎实的编程基础和良好的编码习惯；3、熟悉至少一种编程语言（如 Golang、Java、Python 等）；4、有 Docker、Kubernetes、vLLM、SGLang、RouteLLM 等技术的学习或实践经验者优先，参与过开源项目更佳； 5、积极主动，自驱力强，具备良好的团队合作精神和解决问题的能力； 6、对如下一个或多个领域有浓厚的兴趣，并愿意付出自己的时间进行深入研究和探索：a. 机器学习框架：PyTorch、TensorFlow等机器学习框架、GPU等异构计算芯片及优化、MLOps、CV/NLP/搜广推等领域模型算法等；b. 云原生：Kubernetes及容器系统、大规模训练任务和推理服务编排和调度、镜像加速等。
【团队介绍】作为大模型与搜推广业务的 AI 基础设施核心团队，业务支撑包括可灵 AI 视频/图像生成、内容推荐与商业化。覆盖 AI Infra 全栈：万卡级 GPU 调度（训推一体、多云联邦）、大模型数据引擎（Ray 万卡规模、DataLake 自研存储、DataFlow 编排）、搜推广样本/特征引擎、端到端 MLOps 与 AI-Agent 平台化探索。我们做的是业界没有现成答案的事——对标字节 MegaScale、Meta Llama 3、Databricks Mosaic、Anthropic Constitutional AI 的真实工程实践，配业界前沿的真实场景与资源支持。1、负责分布式大语言模型 (LLM) 推理系统的底层基础设施研究与探索，包括 GPU 和 RDMA 等，提升 GPU 环境下的稳定性和计算效率；2、负责大规模模型训练场景优化工作，通过建设全面的异常发现、故障自愈机制，提升平台训练 MFU，降低训练成本；3、基于容器以及 Kubernetes 技术，负责对机器学习领域中的资源调度、模型训练、模型推理、数据管理等多个子方向的成本效率优化工作；4、持续关注并跟进业界技术发展，比如超长上下文、思维链、多模态方向。
任职要求:
1、本科及以上学历，计算机相关专业；2、掌握常用数据结构与算法，具备扎实的编程基础和良好的编码习惯；3、熟悉至少一种编程语言（如 Golang、Java、Python 等）；4、有 Docker、Kubernetes、vLLM、SGLang、RouteLLM 等技术的学习或实践经验者优先，参与过开源项目更佳； 5、积极主动，自驱力强，具备良好的团队合作精神和解决问题的能力； 6、对如下一个或多个领域有浓厚的兴趣，并愿意付出自己的时间进行深入研究和探索：a. 机器学习框架：PyTorch、TensorFlow等机器学习框架、GPU等异构计算芯片及优化、MLOps、CV/NLP/搜广推等领域模型算法等；b. 云原生：Kubernetes及容器系统、大规模训练任务和推理服务编排和调度、镜像加速等。
