
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2月21日,AI芯片企业SambaNova宣布推出基于自研SN40L RDU处理器的DeepSeek-R1 671B模型推理云服务,号称“市面最快”。该服务每prompt可达到198个token/s的输出速度。SN40L RDU芯片采用5nm制程,具备独特的三层存储结构,包括520MB SRAM缓存、64GB HBM内存和1.5TB DDR DRAM内存,显著提升了参数容纳量和计算效率。SambaNova称,只需一个包含16个SN40L RDU芯片的机架即可部署DeepSeek-R1 671B。
原文链接
加载更多

暂无内容