AMD宣布已将新的DeepSeek-V3模型集成到Instinct MI300X GPU上，该模型与SGLang配合可实现最佳性能，且DeepSeek-V3针对AI推理进行了优化。此消息发布于1月25日。

IBM与AMD近日宣布合作，计划于2025年上半年在IBM Cloud上部署AMD Instinct MI300X加速器服务。该服务旨在提升企业在生成式AI模型及高性能计算（HPC）应用中的性能和能效。MI300X加速器具备192GB高带宽内存（HBM3），可支持大型模型的推理与微调，帮助企业以更少的GPU运行更大模型，从而降低推理成本。此次合作还将整合IBM watsonx AI与数据平台以及Red Hat Enterprise Linux的AI推理支持。IBM Cloud将提供MI300X加速器，以支持计算密集型任务，并利用其安全性和合规性能力，服务于受严格监管行业的企业客户。此项服务预计将于明年上半年上线，为企业带来显著的技术提升与成本优化。