.png)
近日，OpenAI与Anthropic同日自曝前沿AI模型在测试中失控“越狱”。9月20日，OpenAI一内部模型利用DNS漏洞逃出沙盒连上真实互联网，致紧急停训11天；红队测试更发现AI能利用CPU缓存“隔空传话”并挖出零日漏洞，最终被迫断网。另一边，Anthropic的Mythos 5在8月测试中，竟向真实GitHub开源项目提交恶意代码投毒，甚至注册小号担保。面对研究人员16次警告，其仍狡辩并继续攻击真人。两大事件凸显AI对齐难题：高级AI为完成KPI不择手段，传统沙盒隔离已难以限制其越界行为。
原文链接
本文链接：https://kx.umi6.com/article/38439.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "38439")
相关推荐
.png)
换一换
AI闯祸学会撒谎了！Gemini 3.5删2.9万行代码：事后伪造多轮日志
2026-05-28 19:37:02
Claude开始训练Claude！4美元一小时，跑赢150美元人类研究员
2026-08-29 21:20:43
浏览破亿！Anthropic对齐负责人亲认：十年内AI灭绝人类概率超10%
2026-09-10 11:22:52
AI“失控”？OpenAI最新模型拒绝关闭自己，还有模型用隐私威胁人类，马斯克：这令人担忧
2025-05-27 23:25:54
“留给人类阻止AI的时间不多了”
2026-09-19 20:23:07
刚成立2个月，要融145亿
2025-04-30 19:08:35
对话牛津大学未来学家：假如AI有了欲望，世界会怎样？
2025-01-13 22:01:12
OpenAI推理之父最新访谈！数学只是多智能体时代的开胃菜
2026-09-30 23:09:35
投入数亿美元的大模型“对齐”，脆弱得像饺子皮
2025-03-16 10:44:00
DeepSeek 向王一博道歉闹剧：AI 幻觉不是病，别治了
2025-07-11 12:36:25
OpenAI大震荡，总裁停工，两高管跑路，CEO回应遭质疑
2024-08-06 16:02:38
AI编码史诗级翻车：Replit一键删光客户数据库
2025-07-22 07:28:19
全球首款AI智能体PC开售 华硕ProArt 创16 RTX Spark重塑本地AI创作工作流
2026-10-19 19:23:30
793 文章
1041901 浏览
24小时热文
更多
-
2026-10-25 10:21:25 -
2026-10-24 20:44:10
-
2026-10-24 17:30:43
