.png)
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
单卡搞定Llama 3.1 405B，让大模型轻松瘦身！超强压缩工具包来了
近期，Llama-3.1登顶开源领域，其405B版本模型对资源提出了更高要求，高达900多GB的内存需求。为应对这一挑战，北航、商汤、南洋理工等团队联手研发出大模型压缩工具与基准LLMC，使一张80G A100显卡就能完成L...
原文链接
新智燎原
08-02 17:05:22
LLMC
大模型压缩
量化精度
分享至
打开微信扫一扫
内容投诉
生成图片
.png "4461")
加载更多
暂无内容
