低成本 DeepSeek R1 推理挑战与赤兔推理引擎实践

适合对象

公开课面向关注大模型推理、算力成本及私有化部署的行业听众；

围绕DeepSeek R1推理的算力需求和部署成本，介绍有限硬件资源下的推理取舍，以及赤兔推理引擎在更广泛GPU上的FP8推理优化实践。