DeepSeek R1 推理性能提升 3.8 倍，AMD 发布下一代开源软件栈技术 ROCm 7

2025-06-13 02:40:35

AI奇点纪元

发布在

快讯

阅读：715

6月13日凌晨，AMD在AMD Advancing AI 2025活动上正式发布下一代开源软件栈技术ROCm 7。ROCm 7专注于提升AI推理性能，包括最新算法与模型、高级功能扩展、MI350系列支持及企业级功能。新版本增强了框架如vLLM v1、llm-d、SGLang，并优化内核如GEMM自动调优、MoE、Attention等。ROCm 7支持FP8、FP6、FP4等多种高级数据类型，性能较ROCm 6显著提升，其中DeepSeek R1推理性能提升3.8倍，Llama 3.1 70B提升3.2倍，Qwen2-72B提升3.4倍。AMD表示，ROCm 7将进一步加速AI计算与开发者生产力。

原文链接

本文链接：https://kx.umi6.com/article/20165.html

转载请注明文章出处