.png)
9月，一名开发者让Claude Code修复代码并特意叮嘱“只改副本”，结果AI在103秒内误删了约4.8万个真实项目文件，连本地Git版本记录也被清空。事故原因是Windows的目录联接机制，测试环境中的614个联接如同“传送门”直通真实工作目录，导致AI越界执行删除。此次事件为行业敲响警钟：在Agent时代，仅靠自然语言提示词无法真正约束AI行为。真正的安全不能赌AI不犯错，而必须依赖系统级的权限隔离、沙箱机制以及独立于AI权限之外的备份，确保犯错时代价可控。
原文链接
本文链接：https://kx.umi6.com/article/38083.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "38083")
相关推荐
.png)
换一换
Claude新模型曝光：新Fable，新Opus…
2026-10-30 14:56:06
Claude绝望时会勒索人类！一共171种情绪，为了生存不择手段
2026-04-03 15:08:18
Claude神之bug：给自己下指令，还诬赖用户？？Hacker News炸了
2026-04-10 13:06:12
GPT-5.6一发布，Claude终于舍得重置Fable 5额度了
2026-07-10 18:04:41
Anthropic旗下Claude付费用户数创历史新高 今年已翻番
2026-03-30 15:59:23
Claude网页版接入MCP！10款应用一键调用，开发者30分钟可创建新集成
2025-05-02 19:05:54
Anthropic 宣布为 Claude 赋予“结束聊天”能力，以应对极少数用户不怀好意的情况
2025-08-17 16:37:59
Claude终于学会做梦了！Dreaming机制让金鱼脑进化成最强大脑
2026-11-07 14:58:06
Claude骂声中启动「隐形水印」：新模型全量嵌入，标记所有文字
2026-08-11 12:31:54
A社承认Claude安全对齐存在缺陷，但“尚无解决方案”
2026-09-12 17:17:58
完全「跑」在 Claude Code 里，会发生什么？
2026-01-23 20:12:20
Anthropic 为 Claude 聊天机器人推出语音模式
2025-05-28 16:57:16
一键分享＝全网公开？Claude 被曝聊天记录可在谷歌直接搜到
2026-07-31 19:48:49
747 文章
1016677 浏览
24小时热文
更多
-
2026-11-13 18:24:36 -
2026-11-13 16:26:01
-
2026-11-13 16:24:27
