3月7日,美团搜推机器学习团队宣布开源DeepSeek R1模型的INT8无损量化版本。原模型仅支持英伟达新型GPU,现通过INT8量化,可在A100上部署且吞吐量提升50%。量化代码已合入SGLang框架,模型发布于Hugging Face社区。
原文链接
本文链接:https://kx.umi6.com/article/15020.html
转载请注明文章出处
相关推荐
.png)
换一换
王兴首次谈AI:美团策略是进攻而非防守,今年将推AI生活助手
2025-03-22 12:15:52
Gitee AI 联合沐曦首发全套 DeepSeek R1 千问蒸馏模型,全免费体验
2025-02-03 17:13:53
美团低空物流公司成立科技新公司 含AI软件开发业务
2024-12-13 14:27:32
438 文章
65330 浏览
24小时热文
更多

-
2025-07-20 10:03:13
-
2025-07-20 10:02:01
-
2025-07-20 09:01:50