综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
在2026 CCF全国高性能计算学术大会期间,是石科技正式发布TokenFleet分布式调度框架,助力国产推理再提效!该框架聚焦GPU集群有效产出,推出三大核心技术:TokenPilot智能路由使P95首Token延迟降低32.4%;FleetMind实现跨机房服务容量协同;SLOMax治理混合负载,令达标输出吞吐提高约29.4%。作为独立第三方全栈算力运营商,是石科技通过这一集群调度“大招”,深度优化请求分配与容量协同,大幅提升算力资源利用率并降低成本,致力于打造更高效的“国产Token优化工厂”。
原文链接
加载更多
暂无内容