2025年10月20日，英特尔在2025 OCP全球峰会上展示了一款Gaudi 3混合型AI机架解决方案。该方案结合了英特尔Gaudi 3 AI加速器、英伟达Blackwell B200 GPU以及英伟达ConnectX网络技术，旨在提升大模型推理效率。其中，B200负责推理的预填充阶段，Gaudi 3则承担解码任务。此前，Gaudi 3自2024年4月发布后长期滞销，库存积压严重。此次新设计意在提振销量，同时利用跨平台硬件协作优化性能。

9月19日，英特尔发布最新AI加速器Gaudi 3，包含OAM模块、多OAM卡基板和PCIe AIC三种形式。尽管市场反响平淡，但戴尔于美国时间17日宣布，其PowerEdge XE7740服务器率先支持Gaudi 3 PCIe AIC（HL-338）配置，成为首家提供该集成方案的厂商。HL-338 TDP为600W，配备128GB HBM2E内存和3.7TB/s带宽，功耗低于900W的HL-325L。XE7740服务器可安装8张HL-338卡，并支持四路桥接扩展，能在10kW风冷限制下提供强大AI微调与推理算力资源。

【IBM Cloud与英特尔携手，引领AI加速器市场】IBM Cloud宣布将于2025年初推出基于英特尔Gaudi 3 AI加速器与第五代至强处理器的云服务，此合作使IBM Cloud成为全球首个采用该技术的云服务供应商。Gaudi 3 AI加速器采用5nm制程，集成了64个TPC（张量处理核心）及8个MME（矩阵乘法引擎），并配备96MB SRAM缓存与128GB HBM内存，旨在为生成式AI推理工作负载提供高效运行平台。通过在AI与数据平台WatsonX上启用对Gaudi 3的支持，IBM Cloud将为客户提供额外的AI基础设施资源，助力企业优化AI工作负载在混合云环境中的性价比，并推动创新与成本效益的AI部署。此合作不仅标志着AI加速器领域的重要进展，也为寻求优化AI应用的企业提供了新的选择。