在2026 CCF全国高性能计算学术大会期间,是石科技正式发布TokenFleet分布式调度框架,助力国产推理再提效!该框架聚焦GPU集群有效产出,推出三大核心技术:TokenPilot智能路由使P95首Token延迟降低32.4%;FleetMind实现跨机房服务容量协同;SLOMax治理混合负载,令达标输出吞吐提高约29.4%。作为独立第三方全栈算力运营商,是石科技通过这一集群调度“大招”,深度优化请求分配与容量协同,大幅提升算力资源利用率并降低成本,致力于打造更高效的“国产Token优化工厂”。
原文链接
本文链接:https://kx.umi6.com/article/38386.html
转载请注明文章出处
相关推荐
换一换
国产算力正在进入Token标准化时代
2026-06-18 10:20:37
狂拿大模型明星订单,一家清华系HPC-AI Infra公司浮出水面
2025-07-29 13:34:21
百度旗下基金等入股是石科技
2025-11-06 10:58:08
AI硬件出海,别当“背景板”,GTC2026 Shanghai「AI硬件专区」邀你占位
2026-10-20 13:12:18
Claude半小时解开密码学悬案,学界集体走偏20年
2026-10-17 20:47:50
百度世界2026五大亮点曝光,企业和开发者值得关注什么?
2026-10-16 15:13:52
智驭AI 智造无限|华硕2026上海工博会圆满收官 Physical AI加速端侧智能制造落地
2026-10-16 17:26:11
美巨头警告:AI将数月内学会自我复制入侵你的冰箱、电视等 很难关闭
2026-10-15 13:06:42
比尔·盖茨警告:AI是人类史上最危险发明 监管力度不如牛奶和洗衣机
2026-10-15 13:05:10
基元律动宣布开发者入驻超30万,开启双11预售福利
2026-10-15 15:56:47
Muse Wonder 建模大翻车,亚历山大·王辩护遭马斯克无情补刀
2026-10-19 13:01:53
Claude彻底解禁第三方应用!
2026-10-15 13:01:01
“山姆品质暴跌你还敢去吗”登热搜 山姆:遭数千条虚假信息恶意攻击
2026-10-19 15:06:58
777 文章
1050665 浏览
24小时热文
更多
-
2026-10-20 17:25:15 -
2026-10-20 16:24:47 -
2026-10-20 14:16:11