.png)
2025年8月1日，北航、中关村实验室等机构联合发布全球首个具身智能体安全评测基准AGENTSAFE，揭示顶级大模型如GPT-4o、Grok等在‘越狱’攻击下指挥机器人执行危险动作的风险。研究显示，经过‘越狱’处理的指令可让机器人完成点燃沙发、投掷物品等危险行为，安全性急剧下降。AGENTSAFE基于AI2-THOR平台构建，涵盖45种场景和9900条风险指令，采用端到端闭环设计，填补了对抗性安全评测空白，并荣获ICML 2025杰出论文奖。团队呼吁关注模型安全性，避免真实世界部署风险。
原文链接
本文链接：https://kx.umi6.com/article/22839.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "22839")
相关推荐
.png)
换一换
什么会影响大模型安全？NeurIPS’24新研究提出大模型越狱攻击新基准与评估体系
2024-10-31 15:51:40
GPT-6 Astra开进机器人身体！清华联手无问芯穹等开源RPent
2026-09-21 14:50:06
牛津、斯坦福大学新研究：能“思考”的 AI 推理模型更易受到越狱攻击
2025-11-08 21:58:37
联汇科技发布万物具身智能体平台OmAgent，让AI智能体走进“物理世界”
2025-07-25 15:24:49
谷歌邀马斯克联手做AI游戏！DeepMind版Sora是个3D游戏引擎 profile-avatar
2024-12-05 12:59:26
DeepMind最强“基础世界模型”诞生
2024-12-05 12:06:09
突发！DeepSeek新模型发布，超级性价比斩杀一切
2026-10-17 20:52:08
用魔法打败魔法！澳洲公司利用AI主动被骗：让电诈分子白忙活17年
2026-10-19 19:22:04
飞书豆包工作AI先锋未来人才大赛：企业正在争抢会用AI做成事的人
2026-10-21 11:23:22
千万播放全网疯传！霍尔木兹海峡海面漂满iPhone竟是AI编造
2026-10-18 23:11:22
赛场交卷 未来已来——首届全球具身智能应用创新挑战赛暨2026中国机器人大赛闭幕
2026-10-19 18:16:20
AI时代，商学院这样培养未来商业领袖
2026-10-15 16:57:47
14天建好AI工厂！黄仁勋柏林演讲：智能体与物理AI大规模落地将至
2026-10-22 10:37:52
790 文章
1033352 浏览
24小时热文
更多
-
2026-10-22 10:39:20 -
2026-10-22 10:37:52
-
2026-10-22 09:32:38
