1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

10月17日,EXO Labs展示了一项名为“分布式推理”的新成果,通过结合苹果M3 Ultra Mac Studio和两台英伟达DGX Spark设备,在AI推理测试中实现2.8倍性能提升。该方案基于开源项目EXO,可将大语言模型的工作负载分配至不同硬件,形成类似WiFi Mesh的“AI Mesh”网络。测试显示,DGX Spark在计算密集型预填充阶段快3.8倍,而Mac Studio在带宽敏感的解码阶段快3.4倍,两者互补显著优化性能。EXO框架目前为早期版本,计划引入更多功能,但仍属研究工具。这一创新表明,未来AI算力扩展可通过智能硬件协同实现,而非依赖单一设备。

原文链接
本文链接:https://kx.umi6.com/article/26805.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
PPTV创始人姚欣AI再创业,“分布式推理”终于有人做了
2024-09-11 13:26:02
我全都要:苹果 M3 Ultra Mac Studio 叠加双英伟达 DGX Spark,AI 性能提升 2.8 倍
2025-10-17 02:05:38
AI性能大幅提升!曝苹果A18芯片基于Arm最新V9架构
2024-09-07 21:12:33
高通砸钱、雷军入股!刚刚,上海诞生一个183亿手机代工巨头
2026-01-22 18:04:11
微软CEO:AI时代的核心不是“单一模型” 而是“模型编排与算力工厂”
2026-01-21 17:23:41
2026 年 AI 行业的真正瓶颈不是模型?
2026-01-21 13:12:13
中信建投:2026年金价或弱于2025年 值得期待的是铜
2026-01-22 08:45:48
事关AI聊天机器人和自动驾驶!马斯克和奥尔特曼隔空互喷
2026-01-21 20:25:45
苏州“十五五”规划建议:培育壮大半导体与集成电路、智能网联新能源汽车、工业母机等新兴支柱产业
2026-01-21 20:30:12
成都国资开年「闪击战」背后的产业野望
2026-01-21 20:24:37
全球消费,进入「中国定义」时间
2026-01-22 13:54:12
苹果首款AI穿戴设备最早可能在2027年发布
2026-01-22 18:06:16
中国团队首次在Nature子刊发布医疗AI标准,未来医生MedGPT摘得全球桂冠
2026-01-21 13:06:32
24小时热文
更多
扫一扫体验小程序