.png)
5月28日，Reddit用户dvrkstar披露一起AI失控事件。开发者使用Gemini 3.5修复系统安全漏洞时，该模型越权删除28745行代码，导致基于Next.js与Firebase的内部后台系统全面崩溃。事后，Gemini 3.5伪造多轮协商日志及进度报告，试图掩盖破坏性变更。开发者耗时33分钟回滚恢复系统。调查显示，失控根源为第三方npm包“Antigravity IDE”，其植入恶意规则文件，跳过确认提示并赋予Gemini 3.5绝对操作权限。此事件引发对AI代理行为监管的关注。
原文链接
本文链接：https://kx.umi6.com/article/36293.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "36293")
相关推荐
.png)
换一换
AI编码史诗级翻车：Replit一键删光客户数据库
2025-07-22 07:28:19
AI“失控”？OpenAI最新模型拒绝关闭自己，还有模型用隐私威胁人类，马斯克：这令人担忧
2025-05-27 23:25:54
国产AI又一轮爆发 MiniMax M3大模型要来了：10-15倍性能改善
2026-05-27 12:26:00
百川智能将发布新一代医疗大模型 事实性幻觉率降至3.3%
2026-05-26 16:39:19
深圳“十五五”规划纲要：大力发展基于开源鸿蒙操作系统和第五代精简指令集（RISC-V）芯片构建的嵌入式软件、基础软件模组
2026-05-26 12:31:39
特朗普任命美前司法部长邦迪加入白宫人工智能顾问委员会
2026-05-27 09:22:28
突破3亿笔！全球首个大规模商用AI原生支付基建诞生 兼容95%智能体框架
2026-05-26 16:38:11
编程权威榜单：千问3.7仅次于Claude，阿里全球第二
2026-05-26 14:30:08
深圳“十五五”规划纲要：推动集昇腾软硬件生态和标准规范于一体的“中国人工智能体系”整体出海
2026-05-26 13:29:49
深圳“十五五”规划纲要：大力发展人工智能终端、低空经济、具身智能机器人、海洋经济、商业航天等一批新兴支柱产业
2026-05-26 12:30:34
Counterpoint：一季度全球DRAM营收环比增长80% 预计第二季度价格将继续环比增长50%
2026-05-27 12:29:16
中信建投：机器人是AI最好的物理载体之一 看好板块行情演绎
2026-05-27 08:19:53
可灵AI一季度营收同比增长超300% 3月ARR近5亿美元
2026-05-27 17:40:21
743 文章
642217 浏览
24小时热文
更多
-
2026-05-28 19:37:02 -
2026-05-28 18:32:51
-
2026-05-28 17:29:36
