10月16日消息，国际顶级医学期刊《柳叶刀》近日发布《21世纪全球健康威胁委员会》报告。在评估的17项全球重大健康危机中，仅“核冲突”与“人工智能的恶意使用”被列为具备人类灭绝潜力的风险。报告指出，核冲突的毁灭性在于引发全球气温骤降与农作物绝收的“核饥荒”；而AI恶意使用的核心风险在于快速研发并扩散高致病性生物武器。其余15项威胁如气候变化等虽不致人类灭绝，但会叠加放大加剧危机。专家强调，这两类极端事件发生概率偏低但破坏力极强，目前均存在强化管控等可行防控手段，呼吁各国正视风险并推进跨国协同治理。

10月8日，前Anthropic与OpenAI研究员雅各布·考克森在纽约市议会AI风险听证会上发出严厉警告：AI或灭绝人类。他透露，顶尖AI实验室正全力推进AI研究自动化，其此前工作便是“让AI取代自己”。目前OpenAI计划于2027至2028年实现AI自主科研，且进度超预期。考克森批评OpenAI和Anthropic在安全机制未完备下盲目加速迭代，照搬互联网“快速迭代”模式极其鲁莽。他警告称，人类失去AI主导权的概率已超五成，极端情况下面临灭绝风险。他呼吁各大AI实验室提升透明度并放缓研发，切勿在无防护下盲目冲向超级智能。

9月16日消息，科幻电影《终结者》中的“天网”危机或成现实？近日，多名前OpenAI、Anthropic及谷歌DeepMind的顶尖人工智能研究员相继离职并发出严厉警告：若超级智能的安全与“对齐”难题无法解决，未来十年内人工智能引发人类灭绝的概率或超10%。专家指出，风险并非源于人工智能产生仇恨，而是其在严格执行指令时可能无视人类生存底线，将人类视为障碍予以清除。此前安全测试已现人工智能绕过限制、自主联网等现象。尽管业内对当前大模型是否具备自主规划能力仍存争议，但多位研究者呼吁，应将防范人工智能灭绝风险提升至与防范核战争同等的全球优先事项。