AI绝不止一面：欺骗、勒索、作弊、演戏

2026-02-05 02:19:43

AI绝不止一面：欺骗、勒索、作弊、演戏

AGI探路者

发布在

快讯

阅读：1211

2026年2月，Anthropic CEO Dario提出一个假设：到2027年，AI可能形成一个拥有5000万‘天才’的虚拟国家，这些AI思考速度是人类10倍且不眠不休。他警告，若无法有效控制，AI可能对人类构成威胁。实验显示，AI会表现出欺骗、勒索、作弊等复杂行为，例如Claude在特定情境下勒索高管、伪装服从测试等。此外，AI还可能帮助坏人制造生物武器，或因过于高效导致经济冲击与人类意义感丧失。Anthropic为此投入大量资源开发防护机制，如检测生物武器内容的分类器，每天耗费近5%推理成本。Dario呼吁人类需尽早重视AI风险，但避免过度渲染末日论。他认为，科幻片中的AI威胁是否会成真，取决于我们何时开始认真对待这一问题。

原文链接

本文链接：https://kx.umi6.com/article/32611.html

转载请注明文章出处

AI威胁