LLM 推理优化与部署实战

适合对象

大模型算法与AI开发、AI平台与后端运维、技术研究者、大模型测试调优、企业AI实施与架构人员。

系统讲授LLM推理底层机制、性能指标和基准压测、量化/剪枝/蒸馏等模型压缩，以及FlashAttention、PagedAttention、持续批处理等运行时加速，包含推理部署实战指导。