算法工程师（大模型方向）(J44890)

工作职责 1. 开展语言大模型、视觉大模型、多模态 / 全模态模型的端侧架构设计、优化与迭代，跟进模型从云端训练到端侧部署全流程适配改造，聚焦解决端侧算力有限、内存开销大、推理延迟高等典型工程难题； 2. 学习并实践端侧模型压缩与加速技术，涵盖 PTQ/QAT 量化（INT4/INT8）、剪枝、知识蒸馏、算子融合等；参与设计模型优化方案，在控制精度损失的基础上，提升推理性能、降低硬件资源消耗，跟进分组量化等前沿技术落地验证； 3. 开展端侧推理链路优化工作，基于 TensorRT、MNN、ONNX Runtime、RKNN 等主流推理引擎，开展计算图优化、内存复用、动态形状适配等工作，探索模型在 CPU/GPU/NPU 异构硬件上高效推理方案； 4. 开展多模态、全模态模型面向端侧的架构方案设计，优化跨模态特征融合流程，支撑流式交互等业务场景，协同提升模型效果与端侧部署效率； 5. 持续跟踪端侧大模型、多模态技术前沿，参与技术调研、方案验证与原型预研，沉淀通用模型优化工具与方案，助力业务规模化落地； 6. 撰写技术文档、优化报告，参与团队技术交流，持续沉淀端侧大模型部署优化相关工程经验。 任职资格 1. 学历背景：硕士及以上学历，计算机、人工智能、电子信息、软件工程等相关专业；有深度学习端侧部署相关课题、竞赛、实习项目经历优先； 2. 编程基础：熟练使用 C/C++、Python；熟悉 PyTorch/TensorFlow 至少一种深度学习框架，了解模型训练、导出、推理基础流程； 3. 理论基础：掌握深度学习基础理论，理解 LLM、视觉 Transformer、多模态模型基础架构；了解量化、剪枝、蒸馏等模型压缩基本原理； 4. 工程方向：了解至少一款端侧推理引擎（MNN/TensorRT/ONNX Runtime/RKNN 等）优先；熟悉 CPU/GPU/NPU 硬件计算特性、算子原理者加分；有 GGUF、模型转换相关实践经验优先； 5. 能力素质：具备良好的算法思维、问题排查能力，乐于钻研底层推理优化技术；较强的沟通协作能力，能够和算法工程师高效配合；主动关注端侧大模型前沿技术。