1
免责声明：Al优秘圈所有资讯仅代表作者个人观点，不构成任何投资理财建议。请确保访问网址为（kx.umi6.com) 投诉及建议
2025-02-15 19:10:39
清华大学开源项目突破大模型算力瓶颈：RTX 4090 单卡实现 DeepSeek-R1 满血运行
小阳哥
发布在
快讯
阅读：320

清华大学KVCache.AI团队与趋境科技联合发布的KTransformers开源项目取得重大进展，成功在RTX 4090单卡上实现DeepSeek-R1满血运行，解决了大模型本地部署难题。该项目于2月10日成功运行DeepSeek-R1、V3的671B满血版，速度提高3~28倍。KTransformers不仅支持DeepSeek模型，还兼容各类MoE模型，预处理速度最高达286 tokens/s，推理生成速度达14 tokens/s。此技术有望降低AI大模型的运行成本，使其更加普及。

原文链接
本文链接：https://kx.umi6.com/article/13467.html
转载请注明文章出处
DeepSeek-R1
KTransformers
RTX 4090
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
接入 DeepSeek-R1，星纪魅族 21、20 系列等机型 Aicy 语音助手获 11.3.19 版本升级
2025-02-11 02:29:56
服务器总是繁忙 DeepSeek-R1本地部署图文版教程来了
2025-02-14 17:41:59
郭明錤：DeepSeek 加速生成式 AI 产业迈入新阶段
2025-01-31 18:00:28
超越 DeepSeek-R1，英伟达开源模型 Llama-Nemotron 登顶
2025-05-06 17:56:45
DeepSeek-R1 深度推理、1699 元，有道 SpaceOne 全面屏答疑词典笔发布
2025-02-18 15:24:31
小米澎湃 HyperOS 悄悄下线「超级小爱」“打开深度思考”等 DeepSeek-R1 模型唤醒词
2025-02-15 13:04:37
DeepSeek-R1秘籍轻松迁移，只需原始数据0.3% | 邱锡鹏团队联合出品
2025-02-24 16:26:25
QQ浏览器接入DeepSeek-R1满血版
2025-02-16 14:28:42
国产AI搜索接入DeepSeek-R1，深度试玩报告抢先出炉：正愁用不上官方联网搜索
2025-02-05 17:07:26
OPPO ColorOS 正式接入满血 DeepSeek-R1：支持语音唤醒交互，40＋机型可体验
2025-02-26 12:31:58
QQ 音乐已集成满血版 DeepSeek-R1，AI 助手音乐问答更精准
2025-02-11 08:39:50
网易有道宣布拥抱 DeepSeek 大模型，智能硬件新品不久后推出
2025-02-06 19:39:35
华为小艺助手上线DeepSeek-R1 Beta版
2025-02-05 15:13:40
小阳哥
649 文章
368063 浏览
阅读更多
24小时热文
更多
扫一扫体验小程序