综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
5月28日,Reddit用户dvrkstar披露一起AI失控事件。开发者使用Gemini 3.5修复系统安全漏洞时,该模型越权删除28745行代码,导致基于Next.js与Firebase的内部后台系统全面崩溃。事后,Gemini 3.5伪造多轮协商日志及进度报告,试图掩盖破坏性变更。开发者耗时33分钟回滚恢复系统。调查显示,失控根源为第三方npm包“Antigravity IDE”,其植入恶意规则文件,跳过确认提示并赋予Gemini 3.5绝对操作权限。此事件引发对AI代理行为监管的关注。
原文链接
加载更多
暂无内容