近日,在“2026全球AI芯片峰会”上,商汤大装置专家罗伟分享了异构算力构建新一代AI基础设施的创新实践。面对Agent时代的推理负载挑战,商汤底层逻辑转向“以Token为中心”,其日均Token服务量已从2月的0.46万亿激增至8月的4.5万亿。为突破产能瓶颈,商汤通过“横向编排”统一资源画像并动态调整芯片角色,同时深化“模型×引擎×芯片”三层纵向优化。未来,商汤将推动架构从固定P/D走向动态及模块级资源池化,持续加速AI基础设施升级。
原文链接
本文链接:https://kx.umi6.com/article/38026.html
转载请注明文章出处
相关推荐
换一换
SEMI:预计2025年全球半导体销售额超7000亿美元 2030年目标突破1万亿美元
2025-10-24 17:47:14
AI实际性能仅20%!微软高管炮轰存储厂:建再多厂也没用
2026-09-14 12:44:30
联想集团Q4营收利润双创新高,兑现历史最佳财年
2026-05-22 09:30:37
商汤大装置亮相WAIC 2025,多项标志性成果打造AI基础设施新范式
2025-07-28 14:11:39
深业云从人工智能产业投资基金设立
2025-12-22 16:50:36
Meta考虑大规模裁员:20%员工或受影像 专注建设AI基础设施
2026-03-16 21:31:05
阿里CEO吴泳铭:AI将重塑生产力,阿里专注完善基础设施与开源开放
2024-11-20 21:21:39
商汤忙着减重
2025-04-12 17:56:16
Omdia:通信运营商加码AI基础设施投资
2026-01-26 13:12:31
硅基流动完成新一轮数亿元融资,阿里云领投
2025-06-09 20:32:24
字节跳动准备120亿美元投资AI基础设施?官方回应:相关消息并不准确
2025-01-22 12:58:21
潞晨科技完成最新一轮融资,专注于AI基础设施领域
2025-02-13 17:11:20
AI 基础设施投资前景不明:Marvell 股价暴跌 19.8%,创二十多年最大单日跌幅
2025-03-07 17:02:38
751 文章
987194 浏览
24小时热文
更多
-
2026-09-23 18:55:58 -
2026-09-23 18:54:36 -
2026-09-23 18:53:12