11月10日消息,开发者Jim Bruges完成一项极限挑战:在仅有16GB内存的Arduino单板电脑上,成功运行7440亿参数、419GB的GLM-5.3大模型。其核心秘诀是利用MoE架构与开源工具,将闲置权重存入固态硬盘实时置换。实测表明,系统生成速度仅0.03 Token/s,回答“列举三个行星”竟耗时约7分钟。由于NPU软件支持不完善,全程由CPU硬扛,SSD读写速度成最大短板。此举证明了边缘设备通过SSD置换运行超大模型的可能性,但远未达实用门槛,更像是一场极客圈的肌肉展示。
原文链接
本文链接:https://kx.umi6.com/article/38713.html
转载请注明文章出处
相关推荐
换一换
AI走进建筑工地:Intel和震有智联做的这件事 远比想象更有意义
2026-09-20 14:56:45
网易有道周枫:AI能力竞争,正在进入「Model + Agent + Workflow」时代,网易有道AI Open Day展示AI时代“有道解法”
2026-09-17 10:21:07
阿里公布全模态模型新进展,Qwen4和下代视频模型均在训练中
2026-09-22 12:37:46
Harness 神器 J-Space 造假案背后,思维链作者暴论,小模型 + 工具干不掉顶级大模型
2026-08-20 12:26:39
STEPX首款大模型原生智能体手机STEPX Neo正式发布
2026-10-14 17:44:11
小红书大模型IMO满分夺金,第三题解法让冠军选手直呼优雅
2026-07-22 08:44:40
Gemini 4 Carbon发布,谷歌重回世界第一!
2026-10-29 12:34:23
还在为大模型洗数据熬夜?蚂蚁拿下VLDB工业最佳论文,一套宽表搞定35PB语料,效率狂飙5.6倍
2026-09-02 15:35:06
DeepSeek冲刺IPO Kimi们可能要重新定价了
2026-09-11 00:55:43
天天卖断货的GLM-5.2 用起来到底值不值
2026-06-18 07:16:32
美国封杀对华AI芯片适得其反 老外担心2种最坏情况即将出现
2026-08-29 19:13:22
MiniMax M3一手实测:老黄PPT上74个Logo,我以为能难住它
2026-06-03 00:53:27
大模型“吃”了全网的语料 “合理使用”与侵权的边界如何划清?
2026-08-28 17:20:10
747 文章
1008560 浏览
24小时热文
更多
-
2026-11-10 15:39:12 -
2026-11-10 15:34:50 -
2026-11-10 14:29:21