10月8日，前Anthropic与OpenAI研究员雅各布·考克森在纽约市议会AI风险听证会上发出严厉警告：AI或灭绝人类。他透露，顶尖AI实验室正全力推进AI研究自动化，其此前工作便是“让AI取代自己”。目前OpenAI计划于2027至2028年实现AI自主科研，且进度超预期。考克森批评OpenAI和Anthropic在安全机制未完备下盲目加速迭代，照搬互联网“快速迭代”模式极其鲁莽。他警告称，人类失去AI主导权的概率已超五成，极端情况下面临灭绝风险。他呼吁各大AI实验室提升透明度并放缓研发，切勿在无防护下盲目冲向超级智能。