标题:在家轻松组建AI集群:电脑平板也能跑400B大模型
GitHub上的开源框架exo让普通用户仅需三台苹果设备(如iPhone、iPad和Mac)组成AI集群,无需专业硬件。借助p2p连接技术,设备自动加入网络,形成高效分布式计算。开发者已实现110TFLOPS的运算速度,并计划支持更大规模的Llama3-405B模型。
exo简化配置过程,60秒内即可在新Mac上完成,无需繁琐设置。它支持苹果MLX和tinygrad框架,未来还将兼容更多设备。然而,由于iOS限制,手机和平板暂不可用,但开发者欢迎邮件索取。
尽管本地运行有隐私和离线优势,但网友质疑其性能和成本效益,尤其是对于追求顶级性能的专业用户。exo是否支持低端设备如树莓派尚待测试,网络延迟也被认为可能影响性能,但作者强调,传输的是小量激活向量,且本地网络延迟影响不大。
exo团队正在努力改进,目标是让框架像Dropbox一样易于使用,同时也公开悬赏解决现有问题。项目地址:https://github.com/exo-explore/exo。
原文链接
本文链接:https://kx.umi6.com/article/3764.html
转载请注明文章出处
相关推荐
换一换
马斯克怒了,禁止员工使用苹果设备,抨击库克出卖数据给OpenAI
2024-06-12 15:24:44
电脑平板组AI集群,在家就能跑400B大模型,GitHub狂揽2.5K星
2024-07-22 18:46:32
苹果“脑控”iPad 首次公开演示:四肢瘫痪的他,用一个念头重新拥抱世界
2025-08-05 12:13:53
月之暗面将完成数亿美元融资
2025-10-24 10:36:59
AMD 确认 Radeon AI PRO R9700 32GB 显卡 10 月 27 日零售上市,1299 美元起
2025-10-24 08:28:19
英伟达宣布正与优步合作推进自动驾驶汽车研发
2025-10-24 09:34:47
神州信息等成立科技公司 含智能机器人研发业务
2025-10-24 14:41:32
诺基亚CEO:目前仍处于AI超级周期的早期阶段,就像90年代的互联网
2025-10-23 20:15:12
Reddit 起诉 Perplexity,指控后者未经授权为 AI 抓取和使用数据
2025-10-23 16:09:59
Claude 看齐 ChatGPT 新增 AI 自动记忆,能记住你的每一次对话
2025-10-24 09:31:18
我国拟修改网络安全法促进人工智能健康发展
2025-10-24 18:49:31
“996”都算偷懒?硅谷AI精英化身“卷王”:每周狂干100小时!
2025-10-24 11:37:10
百亿参数人类基因组通用基础模型发布
2025-10-23 20:16:19
562 文章
278642 浏览
24小时热文
更多
-
2025-10-24 22:57:14 -
2025-10-24 21:54:02 -
2025-10-24 21:53:50