1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:在家轻松组建AI集群:电脑平板也能跑400B大模型

GitHub上的开源框架exo让普通用户仅需三台苹果设备(如iPhone、iPad和Mac)组成AI集群,无需专业硬件。借助p2p连接技术,设备自动加入网络,形成高效分布式计算。开发者已实现110TFLOPS的运算速度,并计划支持更大规模的Llama3-405B模型。

exo简化配置过程,60秒内即可在新Mac上完成,无需繁琐设置。它支持苹果MLX和tinygrad框架,未来还将兼容更多设备。然而,由于iOS限制,手机和平板暂不可用,但开发者欢迎邮件索取。

尽管本地运行有隐私和离线优势,但网友质疑其性能和成本效益,尤其是对于追求顶级性能的专业用户。exo是否支持低端设备如树莓派尚待测试,网络延迟也被认为可能影响性能,但作者强调,传输的是小量激活向量,且本地网络延迟影响不大。

exo团队正在努力改进,目标是让框架像Dropbox一样易于使用,同时也公开悬赏解决现有问题。项目地址:https://github.com/exo-explore/exo。

原文链接
本文链接:https://kx.umi6.com/article/3764.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
鸿海开始导入英伟达Vera Rubin平台
2025-07-21 09:15:10
GPT-5 踪迹渐现:OpenAI 被曝测试“gpt-5-reasoning-alpha-2025-07-13”新模型
2025-07-19 21:58:20
任务级奖励提升App Agent思考力,淘天提出Mobile-R1,3B模型可超32B
2025-07-20 15:05:31
24小时热文
更多
扫一扫体验小程序