10月17日,EXO Labs展示了一项名为“分布式推理”的新成果,通过结合苹果M3 Ultra Mac Studio和两台英伟达DGX Spark设备,在AI推理测试中实现2.8倍性能提升。该方案基于开源项目EXO,可将大语言模型的工作负载分配至不同硬件,形成类似WiFi Mesh的“AI Mesh”网络。测试显示,DGX Spark在计算密集型预填充阶段快3.8倍,而Mac Studio在带宽敏感的解码阶段快3.4倍,两者互补显著优化性能。EXO框架目前为早期版本,计划引入更多功能,但仍属研究工具。这一创新表明,未来AI算力扩展可通过智能硬件协同实现,而非依赖单一设备。
原文链接
本文链接:https://kx.umi6.com/article/26805.html
转载请注明文章出处
相关推荐
换一换
AI性能大幅提升!曝苹果A18芯片基于Arm最新V9架构
2024-09-07 21:12:33
PPTV创始人姚欣AI再创业,“分布式推理”终于有人做了
2024-09-11 13:26:02
我全都要:苹果 M3 Ultra Mac Studio 叠加双英伟达 DGX Spark,AI 性能提升 2.8 倍
2025-10-17 02:05:38
Meta智能眼镜曝隐私风险 用户AI互动画面会被第三方查看
2026-03-06 18:26:31
江苏有线等成立科技公司 经营范围含集成电路芯片及产品制造等业务
2026-03-10 10:02:35
MiniMax发布“龙虾”新技能:推出Voice Maker语音模型和Music Maker音乐模型
2026-03-09 16:56:53
因拒绝美军方不受限制地使用其AI模型 美国一科技公司被列入“黑名单”
2026-03-06 20:35:09
谨防诈骗!OpenClaw创始人否认入驻微博等中文社交平台
2026-03-08 14:07:08
无锡高新区发布“养龙虾”12条 最高补贴500万
2026-03-09 14:47:52
黑马图像模型被Nano Banana技术负责人点赞!15人华人小队,DDIM之父&CVPR最佳论文作者带队
2026-03-06 23:41:48
阿里AI办事发展速度快于亚马逊及OpenAI
2026-03-07 16:46:47
OpenAI聘请OpenClaw AI智能体开发者斯坦伯格
2026-03-09 21:13:27
软银据悉寻求最高400亿美元贷款 用于投资OpenAI
2026-03-06 13:02:04
659 文章
518711 浏览
24小时热文
更多
-
2026-03-10 10:03:26 -
2026-03-10 10:02:35 -
2026-03-10 09:02:22