王宏强-基于ROCm的大模型推理优化

[m0_74120090]

课时名称	课时知识点
王宏强-基于ROCm的大模型推理优化	AMD人工智能事业部AI软件产品工程总监 ROCm 完全兼容主流上游框架，如PyTorch、TensorFlow ，JAX及开源推理引擎SGLang和vLLM。开发者无需修改代码即可在AMD GPU上运行工作负载，大幅降低了开发或迁移门槛。平台还针对深度学习任务进行了全面优化，提供卓越的性能与可扩展性，适配包括数据中心与边缘计算在内的多种硬件形态。ROCm成为推动下一代AI模型高效训练与推理的关键动力，也是广大用户，开发者寻求开放、高性能GPU 计算平台的理想之选。