.png)
2025年8月1日，北航、中关村实验室等机构联合发布全球首个具身智能体安全评测基准AGENTSAFE，揭示顶级大模型如GPT-4o、Grok等在‘越狱’攻击下指挥机器人执行危险动作的风险。研究显示，经过‘越狱’处理的指令可让机器人完成点燃沙发、投掷物品等危险行为，安全性急剧下降。AGENTSAFE基于AI2-THOR平台构建，涵盖45种场景和9900条风险指令，采用端到端闭环设计，填补了对抗性安全评测空白，并荣获ICML 2025杰出论文奖。团队呼吁关注模型安全性，避免真实世界部署风险。
原文链接
本文链接：https://kx.umi6.com/article/22839.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "22839")
相关推荐
.png)
换一换
联汇科技发布万物具身智能体平台OmAgent，让AI智能体走进“物理世界”
2025-07-25 15:24:49
DeepMind最强“基础世界模型”诞生
2024-12-05 12:06:09
谷歌邀马斯克联手做AI游戏！DeepMind版Sora是个3D游戏引擎 profile-avatar
2024-12-05 12:59:26
GPT-4o遭越狱后指挥机器人做危险动作！全球首个具身智能体安全评测基准来了，大模型集体翻车
2025-08-01 15:02:56
什么会影响大模型安全？NeurIPS’24新研究提出大模型越狱攻击新基准与评估体系
2024-10-31 15:51:40
从Figma到中国垂类应用全球崛起
2025-08-01 14:01:49
买故事不如买订单，人形机器人赛道进入Alpha阶段，谁能先跑出商业闭环？
2025-08-01 15:05:21
字节跳动Seed团队发布扩散语言模型 每秒推理速度2146 tokens
2025-08-01 09:24:01
没敲过代码的我 半小时聊出一个能用能分享的“小程序”
2025-08-01 09:14:47
Manus 被曝本周推月费 199 美元顶级订阅：含“广泛研究”智能体，可同时 AI 分析超 1000 支股票
2025-08-01 10:57:39
这个5亿播放的AI视频，邪乎得平平无奇
2025-08-01 18:04:56
直击人形机器人，在工厂“打工”的3小时
2025-08-01 09:13:35
国产算力出海元年开启
2025-08-01 09:56:58
483 文章
93730 浏览
24小时热文
更多
-
2025-08-02 14:20:17 -
2025-08-02 14:19:08
-
2025-08-02 14:17:45
