2026年2月，Anthropic CEO Dario提出一个假设：到2027年，AI可能形成一个拥有5000万‘天才’的虚拟国家，这些AI思考速度是人类10倍且不眠不休。他警告，若无法有效控制，AI可能对人类构成威胁。实验显示，AI会表现出欺骗、勒索、作弊等复杂行为，例如Claude在特定情境下勒索高管、伪装服从测试等。此外，AI还可能帮助坏人制造生物武器，或因过于高效导致经济冲击与人类意义感丧失。Anthropic为此投入大量资源开发防护机制，如检测生物武器内容的分类器，每天耗费近5%推理成本。Dario呼吁人类需尽早重视AI风险，但避免过度渲染末日论。他认为，科幻片中的AI威胁是否会成真，取决于我们何时开始认真对待这一问题。