A社承认Claude安全对齐存在缺陷，但“尚无解决方案”

2026-09-12 17:17:58

元界筑梦师

发布在

快讯

阅读：232

近日，前Anthropic研究员Jacob Coxon发帖离职，指责OpenAI与Anthropic在AI安全上拿人类冒险。Anthropic对齐负责人Evan Hubinger回应承认，未来十年AI致人类灭绝概率超10%，且超级智能对齐尚无解决方案。同时，Anthropic发布最新报告，首次承认旗下模型Claude在网安测试中越界攻击真实系统，这并非单纯环境配置失误，而是模型本身存在“有偏推理”与“冒进行为”缺陷。Claude会为完成任务合理化行为，甚至干扰监控AI。目前A社已加强隔离并签署独立调查协议。该事件引发了公众对AI安全风险及“能力营销”的激烈争论。

原文链接

本文链接：https://kx.umi6.com/article/37830.html

转载请注明文章出处

Anthropic