AMD宣布已将新的DeepSeek-V3模型集成到Instinct MI300X GPU上，该模型与SGLang配合可实现最佳性能，且DeepSeek-V3针对AI推理进行了优化。此消息发布于1月25日。

IBM与AMD近日宣布合作，计划于2025年上半年在IBM Cloud上部署AMD Instinct MI300X加速器服务。该服务旨在提升企业在生成式AI模型及高性能计算（HPC）应用中的性能和能效。MI300X加速器具备192GB高带宽内存（HBM3），可支持大型模型的推理与微调，帮助企业以更少的GPU运行更大模型，从而降低推理成本。此次合作还将整合IBM watsonx AI与数据平台以及Red Hat Enterprise Linux的AI推理支持。IBM Cloud将提供MI300X加速器，以支持计算密集型任务，并利用其安全性和合规性能力，服务于受严格监管行业的企业客户。此项服务预计将于明年上半年上线，为企业带来显著的技术提升与成本优化。

【AMD在AI算力领域崭露头角】9月5日，科技界传来好消息，AMD的最新GPU产品MI300X在AI推理性能上展现出与NVIDIA H100/200相匹敌的实力，挑战了NVIDIA在AI算力领域的主导地位。根据MLCommons提供的数据，AMD的MI300X GPU在AI推理基准测试中与NVIDIA的H100 GPU表现相当，且考虑成本因素，MI300X GPU的性价比更胜一筹。此次测试仅使用了Meta的Llama 2 70B模型进行，但结果表明，AMD在处理大型AI模型方面具有强大的潜力。行业专家对此持乐观态度，预测AMD和Tranium等平台将在AI领域迅速崛起，成为主流市场的重要参与者。