“接力跑”盘活全国算力，PD分离终于破局：延迟砍半、成本直降近40%！

2026-07-30 14:44:14

Nebula

发布在

快讯

阅读：382

在2026 WAIC世界人工智能大会上，无问芯穹首次公布大模型推理系统新突破——跨集群异构推理架构PDD，并发布完整技术报告。该架构将传统PD分离解构为“P-RLD-MD”三级架构，通过广域网串联多地数据中心。其创新引入“中继站”RLD实例进行“接力跑”，成功攻克跨集群KV Cache传输延迟痛点。实测显示，该架构使首Token延迟降低51.5%，单Token成本直降37.5%，有效吞吐提升27.8%。此突破不仅显著提升用户体验，更盘活了全国分散的存量算力，实现全域异构资源最大化调度，为下一代大模型MaaS基础设施勾勒出极具弹性和经济性的新蓝图。

原文链接

本文链接：https://kx.umi6.com/article/37249.html

转载请注明文章出处

PDD架构