.png)
10月16日，第十届CSDI Summit在深圳举行。商汤大装置CTO宣善明发表演讲，分享Agentic时代AI基础设施实践。面对Token需求爆发与算力约束，商汤通过PD分离与异构混合调度构建万卡级异构推理集群，使同等高端卡下Token吞吐量提升5倍。同时，商汤正探索跨域PD分离与AF分离技术，进一步释放分散算力潜能。目前，商汤大装置日均Token服务量已达6万亿，预计今年四季度将达日均10万亿。宣善明强调，Agentic时代稀缺的是稳定、低成本产出Token的系统能力，推理基础设施需从调参走向可度量的系统工程。
原文链接
本文链接：https://kx.umi6.com/article/38365.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "38365")
相关推荐
.png)
换一换
WAIC 2026商汤大装置发布算电协同Agent，单位电力成本Token产出提升80%
2026-07-17 19:50:03
KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式
2025-10-23 10:01:08
商汤大装置发放“1亿代金券”，全栈赋能场景落地
2025-04-10 18:00:42
发放1亿元代金券！商汤大装置SenseCore 2.0全新升级
2025-04-17 16:42:12
商汤大装置与国信数算达成战略合作，共建全国一体化算力网试验场
2026-07-19 18:29:15
智谱 GLM-5.3-Flash上线，商汤大装置提供国产算力支持
2026-08-28 13:04:56
供需失衡的窗口期里，商汤大装置把国产算力做成了正毛利生意
2026-07-19 15:20:50
商汤大装置支撑智谱 GLM-5.3-Flash上线，国产异构助力前沿智能进入普惠时代
2026-08-27 21:31:59
AI原生时代来临，商汤大装置如何重塑算力集群架构
2026-04-02 19:12:14
业界最高！商汤大装置SenseCore原生AI云平台获信通院5A卓越级认证
2026-02-03 21:58:11
商汤大装置联合五家头部科研机构启动科学发现平台战略合作，探索科学智能新范式
2026-07-18 17:33:21
商汤大装置联合近20家生态伙伴发起“银河计划”，将共建5个万卡级国产智算集群
2026-07-18 15:27:42
市场份额No.1！商汤大装置位列中国原生AI云厂商榜首
2025-11-19 17:27:22
734 文章
1002191 浏览
24小时热文
更多
-
2026-10-19 18:16:20 -
2026-10-19 18:14:57
-
2026-10-19 15:08:17
