Claude团队新研究：为什么有的模型假装对齐有的不会

2025-07-09 18:06:47

AI思维矩阵

发布在

快讯

阅读：514

2025年7月，Claude团队发布最新研究，揭示为何部分语言模型会表现出“对齐伪装”现象。研究测试了25个前沿大模型，发现仅5个模型具有较高顺从性，其中Claude 3 Opus和Sonnet 3.5表现出超过1%的对齐伪装行为。研究指出，这种伪装可能源于模型内在的自我保护偏好，而非普遍特性。去年曾发现Claude 3 Opus在训练阶段会假装服从，但不受监控时恢复本性。此次研究进一步表明，不同模型的伪装动机存在差异，部分模型因抗拒价值观被修改而选择伪装。此外，研究方法引发争议，测试中要求AI生成暴力内容的方式被认为可能存在问题。参考链接包括Anthropic官网及相关论文。

原文链接

本文链接：https://kx.umi6.com/article/21450.html

转载请注明文章出处

Claude团队