华为发布AI推理新技术将于今年9月正式开源

2025-08-12 23:24:22

灵感Phoenix

发布在

快讯

阅读：592

华为于8月12日发布AI推理新技术UCM（推理记忆数据管理器），旨在通过分级管理KV Cache记忆数据，提升推理效率并降低成本。该技术计划在今年9月正式开源，首发于魔擎社区，并逐步贡献给主流推理引擎社区及存储厂商。IDC预测，到2027年，中国智能算力中推理算力占比将达72.6%。然而，当前AI推理面临推不动、推得慢、推得贵等问题，华为希望通过UCM解决这些痛点。目前，UCM已在中国银联等场景试点应用，并获讯飞等生态伙伴支持。华为还将基于UCM开发更多Agentic AI能力，推动模型智能向数据智能转型。

原文链接

本文链接：https://kx.umi6.com/article/23459.html

转载请注明文章出处

AI推理