AI大模型技术的迅猛发展正推动中国构建庞大的算力基础设施。据统计，至2024年5月，全国规划的高性能计算机集群智算中心已有10多个，智能算力占比超过30%，算力机架总数超过195万架，整体上架率约为63%，东西部枢纽节点间网络时延基本满足20毫秒要求。国家数据局刘烈宏局长透露，截至6月底，八大国家枢纽节点直接投资超435亿元，带动投资逾2000亿元。

在AI算力投资加码背景下，通过分布式推理降低算力成本成为可能。AMD CEO Lisa Su预估，未来价值4000亿美元的AI加速计算市场中，至少2000亿美元将用于AI推理计算。中国信息通信研究院云计算与大数据研究部指出，2023年，中国数字经济占比GDP的42.8%，其中，互联网、数智、网络运营商的经济规模仅占20%，80%的价值来自传统政企单位和企业深入使用的数字化技术。

分布式算力体系已成为新一代IT技术发展的关键支撑，通过分布式计算确保AI算法高效运行，同时需要融合异构算力和智算基础设施的强大平台。PPIO派欧云联合创始人兼CEO姚欣发布Serverless AI推理产品，通过算法、系统和硬件协同创新，提供模型部署、运行优化、弹性伸缩及API服务，使开发者能集中精力于核心业务，实现降本增效。

姚欣预测，未来三年AI大模型推理成本将下降1000倍以上。遵循Scaling Law，计算能力决定大模型创新和应用的上限。在计算资源成本高昂而需求激增的市场环境下，分布式算力正成为科技革命的驱动力，改变全球计算资源的供给和利用方式。PPIO派欧云作为“算力版滴滴”，整合企业闲置算力，承载多种服务，包括音视频和AI推理，主要业务涵盖云和边缘两侧，重点在于边缘云业务和算力云业务，提供智算服务，满足不同应用场景需求。

PPIO派欧云已完成多轮融资，总额超过3亿元人民币，投资方包括知名机构和行业内人士。姚欣强调，PPIO派欧云专注于与端侧协调，不与设备厂商竞争。此外，公司联合创始人兼CTO王闻宇推出全新Model API服务产品，支持生成式AI应用开发所需的全模态API，商业模式为“按需付费”，通过低成本显著提升AI应用开发效率，降低企业成本。

姚欣认为算力需求与使用不平衡是长期问题，未来算力结构将以95%的推理算力为主，5%的训练算力为辅。大模型将逐渐集中化和标准化，针对不同场景和领域的解决方案将多样化。对于未来AI推理成本的预测，姚欣表示乐观，并强调开源技术对中国AI发展的重要性。

姚欣表示，虽然当前经济环境和资本环境面临挑战，但对真正致力于创新的创业者和创始人而言，这是一个积累价值的好时机。他鼓励创业者和创始人建立社区、协作支持AI时代的到来，以坚定的梦想和决心走自己的道路。