3月7日,美团搜推机器学习团队宣布开源DeepSeek R1模型的INT8无损量化版本。原模型仅支持英伟达新型GPU,现通过INT8量化,可在A100上部署且吞吐量提升50%。量化代码已合入SGLang框架,模型发布于Hugging Face社区。
原文链接
本文链接:https://kx.umi6.com/article/15020.html
转载请注明文章出处
相关推荐
换一换
DeepSeek使用技巧,你收藏这一篇就够了
2025-02-07 21:09:11
“李飞飞团队50美元炼出DeepSeek R1”,如何被曲解了?
2025-02-07 16:04:56
高通 CEO 安蒙称 DeepSeek R1 模型对高通有利,能直接在本地设备上运行
2025-02-06 17:39:06
美团等入股硅基流动 后者为生成式AI设施提供商
2025-03-12 14:29:34
美团AI编程工具“NoCode”即将上线:让编程“像点外卖一样简单”
2025-05-20 15:49:13
昆仑万维旗下 Opera 接入 DeepSeek R1 模型,支持本地个性化部署
2025-02-19 22:58:07
小而美的生活秘书!美团Agent落地生活服务
2025-09-13 13:26:00
美团将上线AI搜索功能:基于用户行为与需求进行智能匹配
2025-09-05 19:24:24
百度 AI 搜索宣布全面接入 DeepSeek R1 最新版,推理能力更强
2025-05-31 16:07:25
独家 | 刘炯接管 GN06 团队,向美团平台负责人李树斌汇报
2025-11-17 12:25:02
非技术人10分钟读懂Deepseek R1
2025-02-14 18:44:39
消息称王慧文回归美团,带队独立探索 AI 应用
2024-11-07 10:24:06
DeepSeek-R1爆火一个月,带来哪些改变?
2025-03-05 07:50:57
772 文章
962817 浏览
24小时热文
更多
-
2026-09-06 21:14:00 -
2026-09-06 20:12:34 -
2026-09-06 20:10:47