近日，AI教父Hinton联合Bengio等22位顶尖学者发布首篇递归自我改进（RSI）论文，探讨AI大规模参与研发下一代AI是否会引发“智能爆炸”。论文指出，2026年AI已真正进入研发流水线，头部实验室数据显示AI自主完成研发的比例正激增。若AI研发实现全面自动化，未来可涌现数百万“AI研究员”，当前一年的AI进步在极端情况下仅需约5周。不过论文强调，目前智能爆炸尚未闭环，仍面临算力、数据、实验时间及科研难度递增等现实瓶颈。尽管尚未发生，RSI已从科幻设想转变为亟需人类提前准备的现实问题。

今日（10月5日），Hinton、Bengio等22位全球顶尖AI学者在剑桥大学CASP平台联名发布报告，警告“智能爆炸”危机迫近。报告披露，硅谷大厂内部机器正迅速接管科研，Anthropic、OpenAI等公司AI编写代码比例已超80%。随着AI研发自动化率提升，技术进化正反馈飞轮形成。推算显示，在完全自动化下，AI进化速度将在17个月内飙升10倍，原本一年的技术突破仅需5周。学者警告，智能爆炸可能导致人类丧失控制权甚至面临灭绝风险，现有权力制衡将失效。为此，巨头们紧急呼吁全球建立物理级熔断机制与受限沙盒，抢在时间窗口关闭前筑牢防线。

Anthropic首席科学家贾里德·卡普兰警告，人类正面临与AI相关的重大抉择。最迟至2030年，甚至可能在2027年，人类需决定是否允许AI模型自行训练，这可能导致‘智能爆炸’，使AI进化为通用人工智能。尽管AI有望在科学和医学领域带来巨大收益，但也可能失控并支配人类。卡普兰认为，未来两到三年内，AI或能完成多数白领任务，并取代大量初级岗位。他特别警惕‘递归自我改进’带来的风险，强调人类需判断AI是否真正有益且无害。与此同时，部分专家对AI能否演化为全能智能体持怀疑态度，但卡普兰认为AI将持续进步。

从种子AI到奇点：人工智能的递归式自我改进 递归自改进（Recursive Self-Improvement，RSI）是计算机科学领域的核心目标之一，涉及哲学、计算理论与伦理学等多学科。Roman V. Yampolskiy教授在论文《From Seed AI to Technological Si...

近日，AI研究网站AI Digest发表了一项新发现，提出了“新摩尔定律”：AI智能体的能力每4个月翻一番。研究显示，从2019年的简单任务不到1秒，到如今可完成人类1小时编程任务，AI能力呈指数级增长。若此趋势延续，预计2027年AI将能处理长达167小时的月级任务。这项加速趋势始于2024年，任务时长翻倍周期已缩短至4个月，远快于2019年的7个月。算法效率提升和更强AI的自我开发能力，可能引发超指数增长，甚至触发“软件智能爆炸”。AI能力的飞跃将深刻改变软件开发、科研等领域，但同时也带来职业转型等社会挑战。