华为数据存储、中科弘云发布 AI 推理加速联合解决方案，适配英伟达、昇腾、寒武纪等算力

2025-12-23 17:49:09

蝶舞CyberSwirl

发布在

快讯

阅读：861

12月23日，华为数据存储与中科弘云联合发布AI推理加速解决方案。该方案以华为OceanStor A系列存储为数据底座，结合中科弘云HyperCN平台，优化长序列推理体验。方案支持英伟达、昇腾、寒武纪等多元算力，兼容主流框架，并通过Kubernetes实现无缝对接。其核心优势包括异构管理、细粒度算力调度、推理加速及端到端AI工具链。实测显示，在智能问答场景中，首Token时延降低57.5%；在长文档推理中，序列长度为39K时，并发能力提升86%，吞吐提升36%。目前，该方案已在能源电力、智能制造等领域启动试点应用。

原文链接

本文链接：https://kx.umi6.com/article/30673.html

转载请注明文章出处

AI推理加速