1月21日,摩尔线程与硅基流动联合宣布,在MTT S5000上利用FP8低精度推理技术完成对DeepSeek V3 671B大模型的深度适配与性能测试。实测单卡Prefill吞吐超4000 tokens/s,Decode吞吐超1000 tokens/s,性能接近国际顶尖产品。这一成果展示了高性能推理技术的新突破,为大模型应用提供了更高效的硬件支持。(记者 黄心怡)
原文链接
本文链接:https://kx.umi6.com/article/32015.html
转载请注明文章出处
相关推荐
换一换
国产算力破局 摩尔线程打通端到端智驾仿真体系
2026-02-24 13:52:01
首次披露!DeepSeek V3 发布软硬一体协同训练论文,公开“降成本”秘诀
2025-05-16 14:52:41
抢下120亿,这届芯片老兵要翻身了
2025-07-09 18:08:01
美团等入股硅基流动 后者为生成式AI设施提供商
2025-03-12 14:29:34
深度拆解:DeepSeek-V3是怎么训练的
2024-12-30 21:30:52
摩尔线程还没上市,“概念股”已经抢飞了
2025-09-23 19:21:44
摩尔线程科创板IPO将于9月26日上会
2025-09-19 19:20:38
摩尔线程Day-0适配DeepSeek-V4
2026-04-24 18:28:12
硅基流动上线 DeepSeek R1 & V3 企业级服务
2025-02-10 21:21:28
摩尔线程科创板IPO上会在即 联美控股收盘三连板 十余家上市公司互动易回复参股投资
2025-09-25 15:07:35
DeepSeek预示算力需求“打骨折”?业界:别只盯着训练 AI行业进入推理时代
2024-12-30 09:15:53
DeepSeek V3小版本大升级:推理、前端开发加强 这些能力超越GPT-4.5
2025-03-25 23:20:38
DeepSeek又更新了!化身更强AI设计师、程序员 比肩全球最强代码生成器?
2025-03-25 09:48:08
795 文章
1104859 浏览
24小时热文
更多
-
2026-10-22 11:40:49 -
2026-10-22 10:39:20 -
2026-10-22 10:37:52