综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
6月13日凌晨,AMD在AMD Advancing AI 2025活动上正式发布下一代开源软件栈技术ROCm 7。ROCm 7专注于提升AI推理性能,包括最新算法与模型、高级功能扩展、MI350系列支持及企业级功能。新版本增强了框架如vLLM v1、llm-d、SGLang,并优化内核如GEMM自动调优、MoE、Attention等。ROCm 7支持FP8、FP6、FP4等多种高级数据类型,性能较ROCm 6显著提升,其中DeepSeek R1推理性能提升3.8倍,Llama 3.1 70B提升3.2倍,Qwen2-72B提升3.4倍。AMD表示,ROCm 7将进一步加速AI计算与开发者生产力。
原文链接
加载更多
暂无内容