.png)
【KV Cache暴降99%！港科CMU联手岩山科技开源EdgeRock-4B】近日，岩山科技旗下岩芯矩阵联合港科大、CMU等高校正式发布并开源新模型EdgeRock-4B。该模型首创“记忆岩锚”机制，解决长推理显存暴涨痛点。在256K上下文下，KV Cache占用锐减99.1%至72MiB，实现“推理再长，内存不涨”。性能上，单张80GB显卡可并发512路长推理，吞吐量飙升至源模型的6.42倍，大幅降低算力成本。同时推理能力未打折，AIME 2024-2026测试通过率达82.9%。模型支持图文推理且已全面开源，为端侧部署与智能体应用带来突破。
原文链接
本文链接：https://kx.umi6.com/article/38458.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "38458")
相关推荐
.png)
换一换
谷歌新论文把内存股价干崩了！KV cache压缩6倍，网友：硅谷成真了 profile-avatar
2026-03-26 11:53:48
小米给KV Cache减负80%！MiMo团队推出混合稀疏注意力架构
2026-02-07 19:19:57
AI SSD：大模型推理的存储范式转移
2026-08-07 11:17:17
Kimi新论文：把KVCache玩成新商业模式了
2026-04-19 19:19:25
郭明錤：不存在“压缩KV Cache就能消除内存需求”的逻辑
2026-04-13 08:48:12
岩山科技：岩超聚能与北大深圳共建聚变与新能源联合实验室正式揭牌
2025-12-11 10:46:25
更名岩山股份一年后：新业务烧钱，旧业务低迷，炒股巨亏
2024-08-26 16:44:34
把记忆交给CPU，大模型会变快
2026-09-16 11:33:26
榨干GPU性能，中兴Mariana（马里亚纳）突破显存壁垒
2025-08-26 14:44:18
因老登一词翻车 小鹏00后美女产品经理道歉视频被质疑用AI
2026-10-26 19:09:18
10亿Tokens免费送！实测全国产算力模型Spark-X2.6，纯代码搓出3D故宫
2026-10-26 18:05:59
尘封87年终于解密！GPT-6一夜破解二战时德军无线电密码
2026-10-19 19:20:45
成立3个月便反超GPT-6 Astra！深圳黑马首次亮相
2026-10-26 18:03:05
841 文章
1141939 浏览
24小时热文
更多
-
2026-10-26 19:09:18 -
2026-10-26 19:06:46
-
2026-10-26 18:24:16
