2月21日,AI芯片企业SambaNova宣布推出基于自研SN40L RDU处理器的DeepSeek-R1 671B模型推理云服务,号称“市面最快”。该服务每prompt可达到198个token/s的输出速度。SN40L RDU芯片采用5nm制程,具备独特的三层存储结构,包括520MB SRAM缓存、64GB HBM内存和1.5TB DDR DRAM内存,显著提升了参数容纳量和计算效率。SambaNova称,只需一个包含16个SN40L RDU芯片的机架即可部署DeepSeek-R1 671B。
原文链接
本文链接:https://kx.umi6.com/article/14006.html
转载请注明文章出处
相关推荐
.png)
换一换
国产AI搜索接入DeepSeek-R1,深度试玩报告抢先出炉:正愁用不上官方联网搜索
2025-02-05 17:07:26
华为小艺助手上线DeepSeek-R1 Beta版
2025-02-05 15:13:40
网易云音乐接入 DeepSeek-R1 大模型,用于歌曲智能推荐等领域
2025-02-19 08:39:53
403 文章
54002 浏览
24小时热文
更多

-
2025-07-21 12:18:20
-
2025-07-21 12:17:10
-
2025-07-21 11:21:54