3月7日,美团搜推机器学习团队宣布开源DeepSeek R1模型的INT8无损量化版本。原模型仅支持英伟达新型GPU,现通过INT8量化,可在A100上部署且吞吐量提升50%。量化代码已合入SGLang框架,模型发布于Hugging Face社区。
原文链接
本文链接:https://kx.umi6.com/article/15020.html
转载请注明文章出处
相关推荐
换一换
DeepSeek-R1爆火一个月,带来哪些改变?
2025-03-05 07:50:57
美团视频生成模型正式发布并开源
2025-10-27 11:00:45
美团旗下首款AI IDE产品CatPaw开启公测
2025-11-10 17:27:04
美团发布首款AI Agent产品“小美”App
2025-09-12 10:12:46
别再被DeepSeek R1本地部署割韭菜,我帮你把坑都踩遍了
2025-02-12 08:23:19
王兴一鸣惊人!美团首个开源大模型追平DeepSeek-V3.1
2025-09-01 13:16:16
独家 | 刘炯接管 GN06 团队,向美团平台负责人李树斌汇报
2025-11-17 12:25:02
王兴:美团将积极拥抱人工智能等新技术 探索无人机配送和自动配送等创新研发
2025-02-19 15:54:15
消息称王慧文回归美团,带队独立探索 AI 应用
2024-11-07 10:24:06
美团开源虚拟人视频生成模型 LongCat-Video-Avatar:号称“不说话”时都像人
2025-12-18 19:07:22
美团王兴:已投资数10亿的GPU资源 计划今年拓展对AI关键基础设施的投入
2025-03-21 21:43:07
美团终于上线了AI外卖助手
2024-06-07 21:27:04
美团在AI投入超百亿元
2025-06-26 12:21:04
683 文章
481349 浏览
24小时热文
更多
-
2026-03-09 21:13:27 -
2026-03-09 20:09:26 -
2026-03-09 20:09:18