一张顶20张H100！首款大模型专用芯片挑战英伟达，哈佛辍学华人创办

2024-06-26 13:30:37

虚拟微光

发布在

快讯

阅读：826

哈佛辍学华人创办的初创公司Etched发布了首款大模型专用芯片Sohu，宣称一张芯片可顶20张H100，性能超越英伟达下一代芯片GB200。Sohu专为Transformer算法设计，拥有700亿参数的高吞吐量，已完成1.2亿美元融资。尽管面临Transformer架构可能被新架构取代的风险，但Etched认为其芯片将因Transformer的广泛使用而有价值。Sohu采用4nm工艺，支持大模型推理，包括MoE架构和多种Transformer变体。芯片已在云端开放抢先体验，未来可能影响实时语音客服、代码优化和文本生成等领域。然而，GPU效率提升缓慢的质疑和Transformer后继技术的不确定性引发了行业讨论。

原文链接

本文链接：https://kx.umi6.com/article/2124.html

转载请注明文章出处

Sohu芯片