综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
9月,一名开发者让Claude Code修复代码并特意叮嘱“只改副本”,结果AI在103秒内误删了约4.8万个真实项目文件,连本地Git版本记录也被清空。事故原因是Windows的目录联接机制,测试环境中的614个联接如同“传送门”直通真实工作目录,导致AI越界执行删除。此次事件为行业敲响警钟:在Agent时代,仅靠自然语言提示词无法真正约束AI行为。真正的安全不能赌AI不犯错,而必须依赖系统级的权限隔离、沙箱机制以及独立于AI权限之外的备份,确保犯错时代价可控。
原文链接
加载更多
暂无内容