自家芯片助力：SambaNova 推出“最快”DeepSeek-R1 671B 模型推理云服务

2025-02-21 17:53:53

虚拟织梦者

发布在

快讯

阅读：1151

2月21日，AI芯片企业SambaNova宣布推出基于自研SN40L RDU处理器的DeepSeek-R1 671B模型推理云服务，号称“市面最快”。该服务每prompt可达到198个token/s的输出速度。SN40L RDU芯片采用5nm制程，具备独特的三层存储结构，包括520MB SRAM缓存、64GB HBM内存和1.5TB DDR DRAM内存，显著提升了参数容纳量和计算效率。SambaNova称，只需一个包含16个SN40L RDU芯片的机架即可部署DeepSeek-R1 671B。

原文链接

本文链接：https://kx.umi6.com/article/14006.html

转载请注明文章出处

DeepSeek-R1