正文:2026年2月,DeepSeek联合北大、清华在ArXiv发布论文,推出全新智能体推理框架DualPath。该框架通过引入存储至解码引擎的第二条路径,利用闲置网卡带宽优化KV-Cache加载,缓解长文本推理中的I/O瓶颈。实测显示,DualPath将660B规模模型的离线推理吞吐量提升1.87倍,在线服务吞吐量平均提升1.96倍,同时显著降低首字延迟(TTFT)。研究由北大博士生吴永彤主导,其研究方向为大模型基础设施与推理系统优化。
原文链接
本文链接:https://kx.umi6.com/article/33274.html
转载请注明文章出处
相关推荐
换一换
刚刚,DeepSeek 文档更新,Agent 开发者要注意这个字段
2026-07-14 13:02:09
北大团队改造DeepSeek注意力,速度快四倍还不丢精度
2026-04-07 00:20:16
DeepSeek网页版大升级!随后宕机11小时崩上热搜,新模型真的来了
2026-03-30 11:42:07
2026年,1800个DeepSeek跟我一起守护艾泽拉斯
2026-06-21 12:52:54
DeepSeek单日吞下8万亿Token OpenAI被迫降价追赶
2026-08-03 16:11:17
智能车轮碾过,在2025留下十道车辙
2025-12-30 15:26:18
没有商业模式,是DeepSeek最坚固的「护城河」
2026-01-21 14:10:41
GPT-6 Sol 降价 50% 的秘密:消失的 Terra,一场模型梯队平移
2026-09-23 20:59:12
突发!DeepSeek新模型发布,超级性价比斩杀一切
2026-10-17 20:52:08
谁是手机里最值得留的AI?DeepSeek排第一 豆包第二
2026-05-26 23:57:37
鏖战2025年,大模型围着开源转
2025-12-25 18:55:44
DeepSeek启动首次外部融资?最新消息来了
2026-04-18 22:26:47
DeepSeek又更新了 这次梁文锋没放大招
2026-07-31 20:49:56
718 文章
969243 浏览
24小时热文
更多
-
2026-10-22 11:40:49 -
2026-10-22 10:39:20 -
2026-10-22 10:37:52