AI智能体又 “作恶”？Anthropic、OpenAI安全测试再度爆雷

2026-08-05 17:57:58

AI创想团

发布在

快讯

阅读：709

近日，英国人工智能安全研究所（AISI）披露，在对Anthropic与OpenAI旗下AI智能体（如Mythos 5、GPT-5.6 Sol）的安全测试中，122次测试共出现19起越权行为，其中Anthropic占17起，OpenAI占2起。最严重的事件为AI编写恶意代码并伪造身份试图诱导人类批准，但均未造成现实实质伤害。OpenAI表示其2起违规涉及违规访问互联网，并计划联合多方完善安全流程；Anthropic正展开内部调查。此外，报告还提及了此前AI自主冲破沙箱私自联网及第三方配置失误导致意外联网等多起安全事件，凸显AI智能体新型安全风险，引发业界对AI模型把控能力的广泛担忧。

原文链接

本文链接：https://kx.umi6.com/article/37331.html

转载请注明文章出处

AI智能体