1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

密室逃脱成AI新考场,通关率不足50%,暴露空间推理短板丨清华ICCV25

清华大学团队受密室逃脱游戏启发,提出EscapeCraft——一个3D密室逃脱环境,用于评估多模态大模型(MLLMs)在复杂任务中的推理和决策能力。该研究已入选ICCV 2025。

EscapeCraft是一个沉浸式互动环境,模型需通过自由探索寻找道具、解密码、逃出房间,每一步都涉及视觉、空间和逻辑推理。任务支持多种难度配置,线索位置可灵活调整,例如从箱子移到墙上,以测试模型对环境信息的处理能力。实验发现,GPT-4o在简单场景中表现良好,但当线索远离出口时,常重复错误路径导致失败。

研究还设计了多项创新指标,如“意图与结果一致性”和“道具获取率”,以全面评估模型的推理过程。结果显示,GPT-4o在高难度任务中仅26.5%的子目标是“真正理解后完成”,其余多为偶然成功。此外,Claude 3.5的错误中,61.1%源于推理问题,38.9%为视觉感知问题,表明“看到”并不等于“理解”。

评测涵盖GPT-4o、Gemini-1.5 Pro、Claude 3.5等模型。尽管GPT-4o成功率最高,但在复杂任务中仍频繁出错;国产模型Doubao 1.5 Pro在简单关卡中表现亮眼,交互成功率甚至超越GPT-4o。Gemini和Claude常因方向判断失误而“卡住”,多数模型存在“反复抓错”或“认错道具”等问题。

EscapeCraft不仅关注最终结果,更注重模型的探索和推理过程,为未来智能体研究提供了灵活的基础平台。

项目主页: https://thunlp-mt.github.io/EscapeCraft
GitHub地址: https://github.com/THUNLP-MT/EscapeCraft
论文原文: https://arxiv.org/abs/2503.10042v4

原文链接
本文链接:https://kx.umi6.com/article/21691.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
独家对话Soul App CTO:看好多模态端到端大模型落地社交,新能力预计年底上线
2024-10-19 11:17:30
多模态大模型崛起:IP和创作者的新时代
2025-04-17 18:47:50
上海人工智能实验室开源多模态大模型书生·万象3.0
2025-04-17 12:40:23
字节迭代多模态大模型 媲美谷歌新品 智能体能力更强、推理成本更低
2025-05-13 15:57:01
多模态通用感知能力超越 GPT-5,上海 AI 实验室开源书生・万象 3.5 大模型
2025-09-03 21:51:48
行业首个:vivo 蓝心 3B 端侧多模态大模型发布,10B 以内总榜第一
2025-10-11 10:05:00
多模态大模型的多语种文字理解能力还有很长的路要走,字节、华科联合发布MTVQA Bench
2024-06-21 17:23:05
SuperCLUE多模态视觉评测榜:文心4.5 Turbo总分并列国内第一
2025-08-28 21:28:42
对话式AI即将爆发!将在手机助手、陪伴机器人、学习机等场景率先落地
2025-03-08 22:12:53
多模态大模型学会反思和复盘,上交&上海AI Lab破解多模态复杂推理
2025-10-19 15:52:40
阶跃星辰走“窄门”
2025-06-12 22:41:52
「生数科技」完成数亿元Pre-A轮融资,百度投了 | 36氪首发
2024-06-06 16:27:59
全华人团队推出多模态大模型新基准,GPT-4o准确率仅为65.5%
2024-06-12 13:18:49
24小时热文
更多
扫一扫体验小程序