3月7日,美团搜推机器学习团队宣布开源DeepSeek R1模型的INT8无损量化版本。原模型仅支持英伟达新型GPU,现通过INT8量化,可在A100上部署且吞吐量提升50%。量化代码已合入SGLang框架,模型发布于Hugging Face社区。
原文链接
本文链接:https://kx.umi6.com/article/15020.html
转载请注明文章出处
相关推荐
换一换
王兴披露美团 AI 业务进展:基础大模型能力接近 GPT-4o 水平,6 月将推业务决策助手
2025-05-26 21:50:33
美团低空物流公司成立科技新公司 含AI软件开发业务
2024-12-13 14:27:32
中小 AI 芯片企业感谢 DeepSeek R1:给了我们机会和订单
2025-02-08 16:25:27
美团将推出AI原生社区项目觅游
2026-05-07 18:35:40
支付宝百宝箱接入 DeepSeek R1 满血版,可免费不限额构建智能体
2025-02-10 15:14:04
美团发布首款AI Agent产品“小美”App
2025-09-12 10:12:46
小而美的生活秘书!美团Agent落地生活服务
2025-09-13 13:26:00
美团高管自曝:正研发我发起的NativeAI产品 但不是我带队
2025-03-24 19:13:47
消息称王慧文回归美团,带队独立探索 AI 应用
2024-11-07 10:24:06
王慧文,盯上AI应用
2024-11-08 19:30:01
美团想另选一种命运
2025-03-22 08:06:21
硅基流动上线 DeepSeek R1 & V3 企业级服务
2025-02-10 21:21:28
美团王兴,中国具身智能第一投资人
2025-07-14 10:16:02
748 文章
665894 浏览
24小时热文
更多
-
2026-06-09 00:54:40 -
2026-06-09 00:53:08 -
2026-06-08 23:49:41