11月5日，华为宣布开源其AI推理加速关键技术——UCM（Unified Cache Manager）推理记忆数据管理。该技术通过KV Cache多级缓存与推理记忆管理，结合推理框架、算力和存储的三层协同，解决长序列推理效率低和成本高的问题。UCM架构包含稀疏化模块、稀疏化KV管理器、KV Cache存储组件及UCM连接器等关键模块，具备稀疏注意力、前缀缓存等四大能力，最高可降低首Token时延90%，提升系统吞吐22倍，并扩展上下文窗口达10倍。目前，UCM已在ModelEngine社区开放源代码与技术文档，开发者可通过GitCode或Github获取资源。

11月5日，华为宣布开源其AI推理加速关键技术——UCM（Unified Cache Manager）推理记忆数据管理。该技术以KV Cache多级缓存和推理记忆管理为核心，通过推理框架、算力与存储的三层协同，解决了长序列推理效率低、成本高的问题，为企业提供更高效的AI推理体验。这一开源举措有望推动AI技术的进一步普及与优化。

2025年8月13日，在2025金融AI推理应用落地与发展论坛上，华为发布AI推理创新技术UCM（推理记忆数据管理器），并计划于9月正式开源。UCM通过先进的KV Cache系统和分级管理策略，显著提升推理效率，扩大上下文窗口，降低Token推理成本，缓解对HBM高带宽内存的依赖。华为将与中国银联联合展示AI推理领域最新成果，并与信通院、清华大学等专家探讨优化大模型推理的技术前沿。华为数据存储产品线副总裁樊杰强调高质量数据与存储对AI发展的重要性，称高性能存储可大幅提升算力效率。UCM技术将在魔擎社区首发，并逐步贡献给主流推理引擎社区及生态伙伴。

华为于8月12日发布AI推理新技术UCM（推理记忆数据管理器），旨在通过分级管理KV Cache记忆数据，提升推理效率并降低成本。该技术计划在今年9月正式开源，首发于魔擎社区，并逐步贡献给主流推理引擎社区及存储厂商。IDC预测，到2027年，中国智能算力中推理算力占比将达72.6%。然而，当前AI推理面临推不动、推得慢、推得贵等问题，华为希望通过UCM解决这些痛点。目前，UCM已在中国银联等场景试点应用，并获讯飞等生态伙伴支持。华为还将基于UCM开发更多Agentic AI能力，推动模型智能向数据智能转型。

8月12日，华为发布AI推理创新技术UCM（推理记忆数据管理器），该技术以KV Cache为中心，融合多类型缓存加速算法工具，分级管理推理过程中产生的记忆数据，可扩大上下文窗口，实现高吞吐、低时延的推理体验，并降低每Token推理成本。目前，UCM已在中国银联“客户之声”“营销策划”“办公助手”三大业务场景中试点应用并取得成果。华为计划于2025年9月将UCM开源，首发于魔擎社区，后续逐步贡献给主流推理引擎社区及Share Everything存储厂商和生态伙伴。

华为于8月12日正式发布AI推理创新技术UCM（推理记忆数据管理器），该技术以KV Cache为核心，融合多类型缓存加速算法工具，分级管理推理过程中的KV Cache数据，显著提升推理效率并降低成本。UCM可扩大上下文窗口，实现高吞吐、低时延的推理体验。根据计划，华为将于2025年9月在魔擎社区开源UCM，并逐步贡献给业界主流推理引擎社区及Share Everything存储厂商与生态伙伴，推动行业技术共享与发展。（财联社）