1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

密室逃脱成AI新考场,通关率不足50%,暴露空间推理短板丨清华ICCV25

清华大学团队受密室逃脱游戏启发,提出EscapeCraft——一个3D密室逃脱环境,用于评估多模态大模型(MLLMs)在复杂任务中的推理和决策能力。该研究已入选ICCV 2025。

EscapeCraft是一个沉浸式互动环境,模型需通过自由探索寻找道具、解密码、逃出房间,每一步都涉及视觉、空间和逻辑推理。任务支持多种难度配置,线索位置可灵活调整,例如从箱子移到墙上,以测试模型对环境信息的处理能力。实验发现,GPT-4o在简单场景中表现良好,但当线索远离出口时,常重复错误路径导致失败。

研究还设计了多项创新指标,如“意图与结果一致性”和“道具获取率”,以全面评估模型的推理过程。结果显示,GPT-4o在高难度任务中仅26.5%的子目标是“真正理解后完成”,其余多为偶然成功。此外,Claude 3.5的错误中,61.1%源于推理问题,38.9%为视觉感知问题,表明“看到”并不等于“理解”。

评测涵盖GPT-4o、Gemini-1.5 Pro、Claude 3.5等模型。尽管GPT-4o成功率最高,但在复杂任务中仍频繁出错;国产模型Doubao 1.5 Pro在简单关卡中表现亮眼,交互成功率甚至超越GPT-4o。Gemini和Claude常因方向判断失误而“卡住”,多数模型存在“反复抓错”或“认错道具”等问题。

EscapeCraft不仅关注最终结果,更注重模型的探索和推理过程,为未来智能体研究提供了灵活的基础平台。

项目主页: https://thunlp-mt.github.io/EscapeCraft
GitHub地址: https://github.com/THUNLP-MT/EscapeCraft
论文原文: https://arxiv.org/abs/2503.10042v4

原文链接
本文链接:https://kx.umi6.com/article/21691.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
多模态通用感知能力超越 GPT-5,上海 AI 实验室开源书生・万象 3.5 大模型
2025-09-03 21:51:48
智源王仲远:多模态大模型对产业更加重要,得多模态大模型得天下
2024-12-31 12:40:05
2025十大AI技术趋势:具身智能、世界模型都有望迎来ChatGPT时刻
2025-01-09 11:54:47
CVPR2025视频生成统一评估架构,上交x斯坦福联合提出让MLLM像人类一样打分
2025-06-12 17:39:33
上海人工智能实验室开源多模态大模型书生·万象3.0
2025-04-17 12:40:23
李飞飞谢赛宁新作「空间推理」:多模态大模型性能突破关键所在
2024-12-23 12:52:12
GPT-4.5 创造力比 GPT-4o 弱,浙大上海 AI Lab 发布全球首个面向真实场景的多模态创造力评测基准
2025-04-04 13:13:45
行业催化不断 机构看好AI主题行情
2024-12-24 05:22:47
国际首个,我国团队开发糖尿病诊疗多模态大模型 DeepDR-LLM
2024-07-25 18:37:14
多模态大模型事实正确性评估:o1最强,模型普遍过于自信,最擅长现代建筑/工程技术/科学
2025-02-23 14:57:45
阶跃星辰联合吉利首次开源 Step 系列多模态大模型,包含视频、语音两款模型
2025-02-18 11:13:42
全华人团队推出多模态大模型新基准,GPT-4o准确率仅为65.5%
2024-06-12 13:18:49
阶跃星辰走「窄门」
2025-06-12 18:36:57
24小时热文
更多
扫一扫体验小程序