标题:o3挑战ARC-AGI,英国工程师:大模型在大规模网格面前表现不佳
正文: o3在超难推理任务ARC-AGI上表现出色,但英国工程师Mikel Bober-Irizar的研究发现,其表现可能与题目规模有关。米哥观察到,网格规模越大,大模型如o3、o1、o1 mini及Claude的表现越差。
米哥的研究引发了对大模型工作原理的广泛讨论。世界首位全职提示词工程师Riley Goodside也认为这是一项重要研究。
米哥发现,在ARC挑战中,随着网格数量增加,大模型表现显著下降。尤其在网格数量达到1024个时,o3的表现开始明显下滑。通过对比不同规模的题目,米哥证实了这一现象。此外,ARC数据集中规模为1024个像素的题目数量最多,这也解释了o3在此类题目的优异表现。
米哥认为,ARC挑战不能完全反映大模型的真实推理能力,很多模型被低估,而o3则被高估。
为何大模型在规模较大时表现不佳?米哥引用纽约大学的研究指出,人类不会出现类似问题,且在规模较小时o3表现优于人类,规模较大时则反之。这表明大模型的思考方式与人类有差异。
大模型处理的是数字矩阵而非图像,需跨行和列推理。随着网格变大,模型需要处理更长的上下文信息,这对大模型构成挑战。米哥建议通过旋转矩阵,使模型分别基于行和列进行推理,可以显著提高成绩。
米哥认为,ARC任务不适合大模型,将其视为四维空间中的推理任务。视觉能力是关键,但模型的视觉处理方式与人类不同。
原文链接
本文链接:https://kx.umi6.com/article/10796.html
转载请注明文章出处
相关推荐
换一换
全球开发者狂喜!Codex移除5小时限制,Fable 5订阅再延7天,有人烧token烧到住院
2026-07-13 13:10:48
全球首份大模型业绩报!MiniMax预判2026三大超级PMF,AI平台公司启程了
2026-03-03 11:54:49
阿里Qwen3.8正式发布,编程与办公再进化,推理更快更稳定
2026-08-03 13:59:45
舔狗AI和被预约的寿司郎
2026-06-05 00:34:31
梁文锋狙击战:深扒那些梁文锋署名的论文有多牛
2026-09-25 19:30:23
Kimi上去了 Anthropic换锚了?
2026-08-03 16:09:46
刚刚,Gemini 4 Pro偷跑上线!碾压Astra和Fable
2026-09-18 12:12:09
荣膺2026 WAIC“镇馆之宝”!大模型原生智能体手机STEPX Neo解锁AI交互新范式
2026-07-15 14:59:25
我们让 GPT‑6 Astra、Fable 5.1 和 Sol 控制同一台机器人:谁真的把活干完了?
2026-09-30 15:47:53
百度推动大模型与搜推业务融合
2026-03-18 15:35:09
马斯克直呼完了:Anthropic 73页论文刷屏,全球大模型中招思想病毒!
2026-08-20 16:35:22
还在为大模型洗数据熬夜?蚂蚁拿下VLDB工业最佳论文,一套宽表搞定35PB语料,效率狂飙5.6倍
2026-09-02 15:35:06
马斯克、黄仁勋同天发声:力挺中国AI
2026-07-27 16:19:12
845 文章
1158100 浏览
24小时热文
更多
-
2026-10-22 11:40:49 -
2026-10-22 10:39:20 -
2026-10-22 10:37:52