.png)
华为于8月12日正式发布AI推理创新技术UCM（推理记忆数据管理器），该技术以KV Cache为核心，融合多类型缓存加速算法工具，分级管理推理过程中的KV Cache数据，显著提升推理效率并降低成本。UCM可扩大上下文窗口，实现高吞吐、低时延的推理体验。根据计划，华为将于2025年9月在魔擎社区开源UCM，并逐步贡献给业界主流推理引擎社区及Share Everything存储厂商与生态伙伴，推动行业技术共享与发展。（财联社）
原文链接
本文链接：https://kx.umi6.com/article/23434.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "23434")
相关推荐
.png)
换一换
2秒吃透一道高数大题！华为揭秘7180亿参数昇腾大模型
2025-05-30 13:50:18
华为开源 SINQ AI 量化技术：显存占用最高削减 70%，单张 RTX 4090 能干 A100 的活
2025-10-06 08:32:49
值得买：与华为的合作目前已取得几项重要成果
2025-10-27 10:57:33
黄仁勋：华为是“令人敬畏的科技公司”
2025-07-16 21:13:52
DeepSeek们越聪明越不听话
2025-05-21 12:02:58
华为、浙大发布 DeepSeek-R1-Safe 基础大模型：基于昇腾千卡算力平台，破解 AI“安全与性能”难题
2025-09-21 12:44:49
Intel宣布首款Xe3P架构显卡：面向AI推理、自带160GB LPDDR5X内存
2025-10-15 10:39:29
华为UCM推理记忆管理技术正式开源
2025-11-05 16:17:45
消息称华为即将发布 AI 推理领域突破性成果：降低对 HBM 依赖，提升国内大模型性能
2025-08-10 09:43:09
谷歌发布第七代 TPU Ironwood：首度专为 AI 推理设计，能效达 TPU v6e 两倍
2025-04-09 22:10:18
时隔多年，AI芯片又是华为发布会主角了
2025-09-19 11:09:57
华为郭振兴：2025年是AI重构企业全业务启动之年
2025-03-22 18:31:29
华为AI模型运行专利公布
2025-09-05 15:25:04
531 文章
274438 浏览
24小时热文
更多
-
2025-11-05 21:22:18 -
2025-11-05 20:23:03
-
2025-11-05 20:21:58
