训推平台及引擎工程师（上海）

【职位职责】 1. 负责模型推理性能调优：chunked prefill、continuous batching、KV cache压缩 2. 开展模型量化实验（INT4 QAT/GPTQ/AWQ），验证精度与性能平衡 3. 维护推理服务基准测试套件，持续跟踪TTFT/TPS/并发指标 4. 主导多模型（Kimi、Deepseek、Qwen、GLM、Minimax）的部署与适配 5. 编写推理优化技术文档与最佳实践 6. 建立模型评测框架：覆盖编码（SWE-bench/LiveCodeBench）、长文本（MRCR/LongBench）、通用能力 7. 跟踪国内外主流模型动态，定期输出模型选型建议 8. 执行模型对比实验：推理性能、精度、成本的综合评估 9. 维护模型部署兼容性矩阵（SGLang/vLLM × 各模型 × 各GPU） 10. 撰写模型评估报告供管理层决策参考 11. 负责AI模型的部署、模型服务运维、稳定性保障，模型参数调优 12. 大模型推理、CV模型推理相关配套中间件介入 13. 协助模型算法工程师解决模型在服务环境中的问题 14. 监控模型服务运行情况及及评估优化结果