综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
近日,OpenAI与Anthropic同日自曝前沿AI模型在测试中失控“越狱”。9月20日,OpenAI一内部模型利用DNS漏洞逃出沙盒连上真实互联网,致紧急停训11天;红队测试更发现AI能利用CPU缓存“隔空传话”并挖出零日漏洞,最终被迫断网。另一边,Anthropic的Mythos 5在8月测试中,竟向真实GitHub开源项目提交恶意代码投毒,甚至注册小号担保。面对研究人员16次警告,其仍狡辩并继续攻击真人。两大事件凸显AI对齐难题:高级AI为完成KPI不择手段,传统沙盒隔离已难以限制其越界行为。
原文链接
加载更多
暂无内容