3月7日,美团搜推机器学习团队宣布开源DeepSeek R1模型的INT8无损量化版本。原模型仅支持英伟达新型GPU,现通过INT8量化,可在A100上部署且吞吐量提升50%。量化代码已合入SGLang框架,模型发布于Hugging Face社区。
原文链接
本文链接:https://kx.umi6.com/article/15020.html
转载请注明文章出处
相关推荐
换一换
老显卡福音!美团开源首发INT8无损满血版DeepSeek R1
2025-03-04 21:29:39
王慧文,盯上AI应用
2024-11-08 19:30:01
美团将上线AI搜索功能:基于用户行为与需求进行智能匹配
2025-09-05 19:24:24
小米超级小爱重新上线 DeepSeek R1,默认使用联网搜索
2025-02-22 18:41:54
DeepSeek使用技巧,你收藏这一篇就够了
2025-02-07 21:09:11
昆仑万维旗下 Opera 接入 DeepSeek R1 模型,支持本地个性化部署
2025-02-19 22:58:07
百度 AI 搜索宣布全面接入 DeepSeek R1 最新版,推理能力更强
2025-05-31 16:07:25
美团AI编程工具“NoCode”即将上线:让编程“像点外卖一样简单”
2025-05-20 15:49:13
科大讯飞星火 X1 模型升级,数学能力全面对标 DeepSeek R1 和 OpenAI o1
2025-03-03 10:16:41
秘塔 AI 接入满血版 DeepSeek R1 推理模型
2025-02-03 11:04:51
美团正研发 NativeAI 产品,目标让人人都有“专属的生活小秘书”
2025-03-24 21:15:21
七彩虹“虹光 AI”智能模型助手官宣接入满血 DeepSeek R1
2025-02-08 18:30:44
图文并茂:DeepSeek R1 是怎么练成的
2025-02-18 11:11:33
652 文章
428259 浏览
24小时热文
更多
-
2026-01-23 11:53:08 -
2026-01-23 11:52:03 -
2026-01-23 11:50:59