标题:在家轻松组建AI集群:电脑平板也能跑400B大模型
GitHub上的开源框架exo让普通用户仅需三台苹果设备(如iPhone、iPad和Mac)组成AI集群,无需专业硬件。借助p2p连接技术,设备自动加入网络,形成高效分布式计算。开发者已实现110TFLOPS的运算速度,并计划支持更大规模的Llama3-405B模型。
exo简化配置过程,60秒内即可在新Mac上完成,无需繁琐设置。它支持苹果MLX和tinygrad框架,未来还将兼容更多设备。然而,由于iOS限制,手机和平板暂不可用,但开发者欢迎邮件索取。
尽管本地运行有隐私和离线优势,但网友质疑其性能和成本效益,尤其是对于追求顶级性能的专业用户。exo是否支持低端设备如树莓派尚待测试,网络延迟也被认为可能影响性能,但作者强调,传输的是小量激活向量,且本地网络延迟影响不大。
exo团队正在努力改进,目标是让框架像Dropbox一样易于使用,同时也公开悬赏解决现有问题。项目地址:https://github.com/exo-explore/exo。
原文链接
本文链接:https://kx.umi6.com/article/3764.html
转载请注明文章出处
相关推荐
.png)
换一换
苹果“脑控”iPad 首次公开演示:四肢瘫痪的他,用一个念头重新拥抱世界
2025-08-05 12:13:53
电脑平板组AI集群,在家就能跑400B大模型,GitHub狂揽2.5K星
2024-07-22 18:46:32
马斯克怒了,禁止员工使用苹果设备,抨击库克出卖数据给OpenAI
2024-06-12 15:24:44
蚂蚁国际推出 AI 智能体支付解决方案,可识别用户支付意图、全流程追溯询证
2025-09-05 15:20:28
机构:ChatGPT在印度实现强劲增长 8月下载量达1020万次
2025-09-05 09:15:57
OpenAI宣布推出AI在线招聘平台,和微软的领英打起来了
2025-09-05 10:16:42
柯洁回应是否再战 AI:如果观众喜欢看就下,下一百盘输一百盘
2025-09-07 14:45:38
别只用Nano Banana 生图了,视频生成才是王炸组合,这些隐藏玩法真香
2025-09-05 12:19:55
华为全新小艺拟人化实时音视频对话功能适配机型公布,含 Mate XTs 三折叠等
2025-09-07 14:45:54
还得继续砸钱,OpenAI 预计到 2029 年总支出或超千亿美元
2025-09-06 20:38:03
参数量 1T,阿里官方介绍“通义最强语言模型”Qwen3-Max-Preview
2025-09-07 00:40:01
AI“P 图”爆火出圈:“Nano Banana”一周为谷歌 Gemini 吸引千万新用户
2025-09-05 08:12:32
中国电科王平:国内半导体装备已进入“战国时代”
2025-09-05 21:27:41
508 文章
188792 浏览
24小时热文
更多

-
2025-09-07 21:49:50
-
2025-09-07 20:50:36
-
2025-09-07 20:49:25