模型部署&训练优化方向

招聘部门：离线模型及数据 岗位职责： - 模型车端部署：负责自动驾驶端到端模型及多模态大模型（LLM/VLM）在车端平台上的高效迁移与部署。 - 量化与压缩：研发并落地模型量化（PTQ/QAT）、剪枝、蒸馏等轻量化技术，深入探索 FP8、INT4 等低比特精度量化方案，在保证模型精度的前提下大幅提升推理性能。 - 算子与内核优化：针对特定硬件架构，利用 CUDA、TensorRT、Triton 等工具进行高性能算子开发与优化，特别是针对 Attention 机制的加速。 - 软硬协同优化：深入分析模型在硬件上的瓶颈，通过计算图优化、内存管理优化、多流并发等手段，实现全链路推理延迟的最小化。 - 性能评测与对齐：建立完善的模型性能与精度评测体系，负责云端与车端模型输出的一致性校验，定位并解决部署过程中的精度损失问题。 岗位要求： - 计算机、电子工程、人工智能等相关专业本科及以上学历。 - 精通 C++ 和 Python，具备扎实的编程功底和良好的算法与数据结构基础。 - 深入理解模型量化原理，熟悉常用的量化框架（如 TensorRT-LLM、AutoAWQ、BitsAndBytes 等）。 - 熟悉主流深度学习框架（PyTorch/TensorFlow）及模型转换工具（ONNX/TensorRT/TVM）。 - 具备 GPU 体系架构知识，能够熟练编写 CUDA 代码或进行高性能计算优化者优先。 - 熟悉 Transformer 架构及大模型推理加速技术。 加分项： - 参与过开源推理引擎（如 vLLM, DeepSpeed-MII, LMDeploy）的开发或贡献。 - 有在 NVIDIA DRIVE OS 或相关车端底层平台上部署大规模模型的实战经验。 - 具备端到端自动驾驶模型部署经验，熟悉多模态感知数据流的处理优化。