B03 模型推理加速算法

岗位职责1. 研究和开发深度学习模型推理阶段的加速算法，优化推理效率，降低推理延迟，提升吞吐量。2. 探索适应不同硬件平台（如GPU、TPU、NPU、FPGA等）的推理加速算法，针对特定硬件架构进行算法适配和优化。3. 从事本学科的前沿及创新性研究和研发，指导和培养青年人才，参与团队建设高水平的学术团队，完成团队建设相关工作。任职要求1. 从事大小模型协同推理、模型剪枝、量化、低秩分解、显存优化、提示词压缩等至少一个方向的工作。2. 具有扎实的研究基础，掌握深度学习算法基本原理，熟悉神经网络基本架构，了解主流LLM 、MLLM模型，具有相关的研发经历。3.  深入理解深度学习模型推理的工作原理，尤其是推理过程中的瓶颈和优化方法。具有深入的推理加速算法研究经验，能够优化深度学习模型的推理效率，提升计算性能。具备推理阶段常见算法（如卷积、矩阵乘法、量化、剪枝等）的优化经验。4. 在国际顶尖会议或期刊上发表过论文者优先。