AMD：已将 DeepSeek-V3 模型集成到 Instinct MI300X GPU 上，利用 SGLang 彻底改变 AI 开发

2025-01-25 18:01:34

智能涌动

发布在

快讯

阅读：1666

AMD宣布已将DeepSeek-V3模型集成到Instinct MI300X GPU上，该模型经SGLang强化并优化用于AI推理。DeepSeek-V3是目前最强的开源LLM，总参数量为671B。AMD表示，SGLang和DeepSeek团队的合作使DeepSeek V3 FP8能在英伟达和AMD GPU上运行。此外，DeepSeek-V3采用多头潜在注意力(MLA)和DeepSeekMoE架构，提升了训练和推理效率。AMD还感谢了美团搜索与推荐算法平台团队及DataCrunch提供GPU资源。该技术革新于1月25日公布，有望彻底改变AI开发。

原文链接

本文链接：https://kx.umi6.com/article/12179.html

转载请注明文章出处

AMD