姚欣再创业:分布式推理的革新
PPTV创始人姚欣,这位互联网时代的开拓者,再次踏入创业征程,聚焦于云计算领域,特别是AI时代的基础设施建设。不同于以往,他采取了一种独特的策略:构建分布式推理算力平台,而非传统的自建IDC和购买GPU。
分布式云的机遇与选择 - 机遇:2020年Gartner提出的分布式云概念,为姚欣提供了发展的契机。 - 选择:姚欣选择跳过训练算力业务,专注于分布式推理算力,预见到AI应用普及对推理算力的巨大需求。
PPIO的分布式架构与AI应用 - 案例:某头部小说推广APP引入AI生图功能后,面临运维压力和性能瓶颈。 - 解决方案:PPIO的分布式架构有效解决了该APP的运维难题,大幅降低运维成本,提升生图速度,使生产效率提高50%。
AI时代的算力结构转型 - 趋势:TIRIAS研究预测,未来95%的算力需求将用于推理,训练算力占比仅为5%。 - 战略:姚欣把握转型机遇,将重心放在推理侧,致力于降低延迟和提高效率。
技术创新与商业模式 - Serverless架构:智能整合分布式算力,实现弹性伸缩与按需付费,减轻用户运维负担。 - 推理加速引擎:通过全链路FP8量化、KV Cache稀疏压缩算法等技术,优化推理性能,打破限制。
分布式云的独特优势 - 灵活性:解决集中式云难以应对的实时计算需求,下沉分布至网络侧边缘,有效管理算力时空分布。 - 利用率:利用空闲算力资源,提高整体算力利用率,降低运营成本。
姚欣的技术信仰与愿景 - 分布式技术:立志将分布式技术写入教科书,通过聚合资源提升效率,解决算力供需不匹配问题。 - 算力共享:提出算力资源实时调度和自由交易的设想,推动形成行业共识和商业模式创新。
Pioneer AI初创加速计划 - 合作与支持:联合PingCAP、Zilliz等合作伙伴,推出面向AI初创企业的加速计划,提供全面资源和技术服务。 - 使命:助力AI初创团队在分布式云上快速成长,加速创新成果落地,推动更多企业和开发者在AI时代取得成功。
结语
站在AI时代的前沿,姚欣带领PPIO投身于分布式推理算力的革新,旨在通过技术创新和商业模式的探索,构建下一代应用的基础设施,为AI领域的开拓者们提供支持,共同推动行业发展,实现技术普惠的理想。
.png)

-
2025-07-19 12:53:03
-
2025-07-19 12:51:53
-
2025-07-19 11:52:20