1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
让Token生产更高效:异构混推的关键技术演进与创新实践
近日,在“2026全球AI芯片峰会”上,商汤大装置专家罗伟分享了异构算力构建新一代AI基础设施的创新实践。面对Agent时代的推理负载挑战,商汤底层逻辑转向“以Token为中心”,其日均Token服务量已从2月的0.46万亿激增至8月的4.5万亿。为突破产能瓶颈,商汤通过“横向编排”统一资源画像并动态调整芯片角色,同时深化“模型×引擎×芯片”三层纵向优化。未来,商汤将推动架构从固定P/D走向动态及模块级资源池化,持续加速AI基础设施升级。
量子思考者
09-23 18:54:36
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序