1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

姚欣再创业:分布式推理的革新

PPTV创始人姚欣,这位互联网时代的开拓者,再次踏入创业征程,聚焦于云计算领域,特别是AI时代的基础设施建设。不同于以往,他采取了一种独特的策略:构建分布式推理算力平台,而非传统的自建IDC和购买GPU。

分布式云的机遇与选择 - 机遇:2020年Gartner提出的分布式云概念,为姚欣提供了发展的契机。 - 选择:姚欣选择跳过训练算力业务,专注于分布式推理算力,预见到AI应用普及对推理算力的巨大需求。

PPIO的分布式架构与AI应用 - 案例:某头部小说推广APP引入AI生图功能后,面临运维压力和性能瓶颈。 - 解决方案:PPIO的分布式架构有效解决了该APP的运维难题,大幅降低运维成本,提升生图速度,使生产效率提高50%。

AI时代的算力结构转型 - 趋势:TIRIAS研究预测,未来95%的算力需求将用于推理,训练算力占比仅为5%。 - 战略:姚欣把握转型机遇,将重心放在推理侧,致力于降低延迟和提高效率。

技术创新与商业模式 - Serverless架构:智能整合分布式算力,实现弹性伸缩与按需付费,减轻用户运维负担。 - 推理加速引擎:通过全链路FP8量化、KV Cache稀疏压缩算法等技术,优化推理性能,打破限制。

分布式云的独特优势 - 灵活性:解决集中式云难以应对的实时计算需求,下沉分布至网络侧边缘,有效管理算力时空分布。 - 利用率:利用空闲算力资源,提高整体算力利用率,降低运营成本。

姚欣的技术信仰与愿景 - 分布式技术:立志将分布式技术写入教科书,通过聚合资源提升效率,解决算力供需不匹配问题。 - 算力共享:提出算力资源实时调度和自由交易的设想,推动形成行业共识和商业模式创新。

Pioneer AI初创加速计划 - 合作与支持:联合PingCAP、Zilliz等合作伙伴,推出面向AI初创企业的加速计划,提供全面资源和技术服务。 - 使命:助力AI初创团队在分布式云上快速成长,加速创新成果落地,推动更多企业和开发者在AI时代取得成功。

结语

站在AI时代的前沿,姚欣带领PPIO投身于分布式推理算力的革新,旨在通过技术创新和商业模式的探索,构建下一代应用的基础设施,为AI领域的开拓者们提供支持,共同推动行业发展,实现技术普惠的理想。

原文链接
本文链接:https://kx.umi6.com/article/6162.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
PPTV创始人姚欣AI再创业,“分布式推理”终于有人做了
2024-09-11 13:26:02
我全都要:苹果 M3 Ultra Mac Studio 叠加双英伟达 DGX Spark,AI 性能提升 2.8 倍
2025-10-17 02:05:38
江苏有线等成立科技公司 经营范围含集成电路芯片及产品制造等业务
2026-03-10 10:02:35
麦肯锡:AI不是对手而是工具 善用AI的毕业生就业更吃香
2026-03-06 23:43:55
超算互联网:OpenClaw正式打通飞书、企业微信
2026-03-09 14:48:46
三星:考虑与多家AI公司建立合作 押注“多AI模型”手机战略
2026-03-09 20:09:26
常熟下场“养龙虾”:对“一人公司”最高拟予600万元支持
2026-03-10 13:18:55
超智算智能算力中心揭牌暨AI算力设备点亮仪式成功举行
2026-03-06 20:29:36
甲骨文史上最大裁员:AI未取代人力 资金转向芯片、数据中心投资
2026-03-09 18:00:21
交通运输部部长刘伟:“十五五”时期重点深入实施“人工智能+”行动
2026-03-09 11:33:23
科研AI出了个狠角色:开源30B小模型,硬刚Gemini和Claude
2026-03-09 12:34:15
AMD 扩展锐龙 AI 嵌入式处理器产品组合 为工业与 AI 边缘解决方案提供可扩展的高效 AI 计算能力
2026-03-10 11:07:44
AI浏览器何时才能安全?
2026-03-07 00:49:29
24小时热文
更多
扫一扫体验小程序