LLM 推理优化与部署实战
系统讲授LLM推理底层机制、性能指标和基准压测、量化/剪枝/蒸馏等模型压缩,以及FlashAttention、PagedAttention、持续批处理等运行时加速,包含推理部署实战指导。
对象:大模型算法与AI开发、AI平台与后端运维、技术研究者、大模型测试调优、企业AI实施与架构人员。
查看课程内容 →崔皓的培训介绍提到有AI系统架构与大模型应用开发背景,以及大模型、LangChain及分布式架构相关著作。
两个产品分别聚焦LLM推理性能与部署优化,以及SDD规格驱动的AI开发流程。
大模型定制开发
系统讲授LLM推理底层机制、性能指标和基准压测、量化/剪枝/蒸馏等模型压缩,以及FlashAttention、PagedAttention、持续批处理等运行时加速,包含推理部署实战指导。
对象:大模型算法与AI开发、AI平台与后端运维、技术研究者、大模型测试调优、企业AI实施与架构人员。
查看课程内容 →围绕AI编程的规范驱动开发,涵盖SDD原则、提示词与上下文工程、OpenSpec工作流和会议室项目实战,包括需求规格、变更、Bug修复和自动化测试。
对象:需要规范AI开发流程的技术负责人/团队组长、架构师及项目开发人员。
查看课程内容 →