.png)
清华大学KVCache.AI团队与趋境科技联合发布的KTransformers开源项目取得重大进展，成功在RTX 4090单卡上实现DeepSeek-R1满血运行，解决了大模型本地部署难题。该项目于2月10日成功运行DeepSeek-R1、V3的671B满血版，速度提高3~28倍。KTransformers不仅支持DeepSeek模型，还兼容各类MoE模型，预处理速度最高达286 tokens/s，推理生成速度达14 tokens/s。此技术有望降低AI大模型的运行成本，使其更加普及。
原文链接
本文链接：https://kx.umi6.com/article/13467.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "13467")
相关推荐
.png)
换一换
KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式
2025-10-23 10:01:08
DeepSeek-R1 深度推理、1699 元，有道 SpaceOne 全面屏答疑词典笔发布
2025-02-18 15:24:31
网易有道全面拥抱DeepSeek-R1，推理大模型加速个性化教学升级
2025-02-06 18:36:42
京东云全面上线 DeepSeek-R1 / V3 模型，支持公有云在线部署、专混私有化实例部署
2025-02-05 12:02:10
阅文集团AI产品集成DeepSeek-R1大模型
2025-02-05 19:18:55
OPPO ColorOS 小布助手完成 DeepSeek R1 最新版升级
2025-06-09 15:31:10
国行三星 Galaxy S25 系列手机官宣支持 DeepSeek-R1 大模型，进入 AI“智能体中心”即可体验
2025-03-03 22:41:56
DeepSeek-R1秘籍轻松迁移，只需原始数据0.3% | 邱锡鹏团队联合出品
2025-02-24 16:26:25
DeepSeek-R1 大模型登陆腾讯云，宣称“一键部署、3 分钟调用”
2025-02-02 11:44:23
英伟达：DeepSeek-R1 模型现已上线 NIM 微服务平台
2025-01-31 09:47:50
小米澎湃 HyperOS 悄悄下线「超级小爱」“打开深度思考”等 DeepSeek-R1 模型唤醒词
2025-02-15 13:04:37
DeepSeek全尺寸模型上线阿里云百炼
2025-02-09 14:48:13
三星生活助手 App 智能体中心接入 DeepSeek-R1
2025-02-28 20:25:28
591 文章
269318 浏览
24小时热文
更多
-
2025-10-23 21:15:29 -
2025-10-23 20:16:19
-
2025-10-23 20:15:12
