.png)
10月17日，EXO Labs展示了一项名为“分布式推理”的新成果，通过结合苹果M3 Ultra Mac Studio和两台英伟达DGX Spark设备，在AI推理测试中实现2.8倍性能提升。该方案基于开源项目EXO，可将大语言模型的工作负载分配至不同硬件，形成类似WiFi Mesh的“AI Mesh”网络。测试显示，DGX Spark在计算密集型预填充阶段快3.8倍，而Mac Studio在带宽敏感的解码阶段快3.4倍，两者互补显著优化性能。EXO框架目前为早期版本，计划引入更多功能，但仍属研究工具。这一创新表明，未来AI算力扩展可通过智能硬件协同实现，而非依赖单一设备。
原文链接
本文链接：https://kx.umi6.com/article/26805.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "26805")
相关推荐
.png)
换一换
AI性能大幅提升！曝苹果A18芯片基于Arm最新V9架构
2024-09-07 21:12:33
我全都要：苹果 M3 Ultra Mac Studio 叠加双英伟达 DGX Spark，AI 性能提升 2.8 倍
2025-10-17 02:05:38
PPTV创始人姚欣AI再创业，“分布式推理”终于有人做了
2024-09-11 13:26:02
打工人专属助理：Claude AI 新“技能”帮你搞定周报 / 文案等，让你提前下班
2025-10-17 12:15:37
智元正式推出新一代工业级交互式具身作业机器人精灵G2
2025-10-16 11:56:00
工信部郭守刚：强化对搭载组合驾驶辅助系统车辆生产一致性监督管理
2025-10-17 10:13:03
ChatGPT “记忆已满”不用愁，OpenAI 推出记忆自动管理功能
2025-10-16 12:54:51
火山引擎升级和发布四款豆包大模型
2025-10-16 17:03:34
微软官宣Windows 11全新AI升级
2025-10-17 09:12:15
后摩智能陶冶：M50 AI芯片处于可送测阶段拟年底量产
2025-10-16 14:59:21
AI应用概念龙头，回来了？
2025-10-17 00:03:15
Meta 深化与 Arm 战略合作，AI 排名和推荐系统将使用 Neoverse IP 芯片
2025-10-16 09:49:47
国家人工智能应用中试基地正式启动
2025-10-16 11:59:17
510 文章
262739 浏览
24小时热文
更多
-
2025-10-17 13:16:18 -
2025-10-17 13:16:03
-
2025-10-17 12:17:00
