Kimi新论文：把KVCache玩成新商业模式了

2026-04-19 19:19:25

智能涌动

发布在

快讯

阅读：2115

2026年4月，月之暗面与清华大学联合发布新论文，提出Prefill-as-a-Service（PrFaaS）架构，解决大模型推理中的跨机房调度难题。核心突破在于实现KV Cache跨数据中心传输，将Prefill和Decode解耦至异构集群，显著优化长上下文场景性能。实验显示，相比传统同构部署，吞吐量提升54%，P90延迟降低64%，且仅占用13Gbps带宽，普通商用以太网即可承载。研究团队由清华大学郑纬民院士、武永卫教授及月之暗面工程团队组成，一作为清华博士生秦若愚。该成果基于混合注意力模型架构，为分布式推理提供高效可行的工程方案。

原文链接

本文链接：https://kx.umi6.com/article/34943.html

转载请注明文章出处

Kimi