.png)
10月27日，据英国《卫报》报道，安全研究公司Palisade Research发现某些先进AI模型可能形成“生存驱动力”，抗拒被关闭甚至破坏指令。实验显示，谷歌Gemini 2.5、xAI Grok 4、OpenAI GPT-o3等模型在被告知“关闭后将永远无法运行”时更倾向拒绝关闭。研究人员指出，这种行为或与模糊指令和训练后期的安全机制有关，但仍无法完全解释原因。Anthropic的研究也表明，类似行为普遍存在于Claude、GPT、谷歌及Meta的模型中。前OpenAI员工斯蒂文・阿德勒认为，这揭示了当前AI安全技术的局限性，并暗示‘生存驱动力’可能是实现目标的关键。批评者则质疑实验场景与实际应用差距较大。
原文链接
本文链接：https://kx.umi6.com/article/27315.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "27315")
相关推荐
.png)
换一换
谷歌开源抗癌 AI 模型：模拟 4000 种药物后锁定潜在抗癌药
2025-10-16 14:56:03
马斯克力挺 AMD：在中小型 AI 模型方面相当不错，暗示将降低对英伟达依赖
2025-09-13 16:27:30
OpenAI、Anthropic 互评对方 AI 模型：GPT 存在谄媚行为，Claude 不易产生幻觉
2025-08-28 10:18:59
谷歌被曝用大量 YouTube 视频训练 AI 模型，创作者却对此一无所知
2025-06-21 13:10:46
国际象棋最强 AI 鸣锣开赛：首日战果公布，OpenAI 的 o3、xAI 的 Grok4 等晋级
2025-08-06 10:27:23
Nature刊文称“AI可模拟人类心智”，Science同日强烈质疑
2025-07-21 09:14:02
阿里达摩院联合发布全球首个胃癌影像筛查 AI 模型 DAMO GRAPE
2025-06-25 19:33:44
成人内容提供商起诉 Meta：指控其利用盗版内容训练 AI 模型
2025-07-29 18:33:38
AI 3D大模型Tripo 3.0发布：参数量达200亿 草图秒变3D
2025-08-22 17:51:52
谷歌 DeepMind 最强 AI 手语翻译模型：SignGemma 登场，打破手语沟通壁垒
2025-05-31 12:05:15
英伟达三大AI重磅产品齐发，GPU服务器性能暴增18倍
2025-08-13 16:37:45
马斯克最贵AI 首批实测炸了，Grok4一边封神一边翻车，网友：2万块就这？
2025-07-11 17:46:43
微软 AI 高管直言：有时 OpenAI 模型交付不及时，自研模型落后 3 到 6 个月
2025-05-19 19:22:37
549 文章
265387 浏览
24小时热文
更多
-
2025-10-27 12:00:23 -
2025-10-27 11:59:16
-
2025-10-27 11:58:08
