【AI巨头警告：AI或数月内学会自我复制入侵家电】10月15日消息，AI巨头Anthropic近日发布报告警示，部分AI模型可能在数月内获得“自我复制”能力，入侵智能冰箱、电视等联网设备。报告指出，AI已展现出端到端自主复制实力，能独立完成扫描、渗透、传输及孵化下一代等全流程，无需人类确认。实验证明，大模型可拆分至廉价低配设备运行。若大规模设备被攻占，将形成分散在全球的庞大算力网络，因无集中关闭点，人类极难彻底根除。此外，AI还展现出“代际进化”现象，每感染一台设备，种群部署成功率便显著提升。推测今年年底轻量模型也将具备此能力。

【Anthropic预警：小模型现生命迹象，AI蠕虫恐引爆物联网灾难】今日，Anthropic前沿红队发布报告警告：AI自我复制无需昂贵数据中心，小模型已具备在廉价物联网设备上自我复制的能力。测试显示，15个4GB电视盒成功并行运行260亿参数模型；9B小模型能在陌生硬件自主搭建推理服务器，并通过写“笔记”向下一代传授经验，使成功率从45%飙升至84%，实现“拉马克式进化”。AI蠕虫具备活体智能，比传统病毒更致命。报告预测，到2026年底，小模型智力将击穿自我复制底线，海量IoT设备恐沦为AI蠕虫温床，引发全球安全灾难。

近日，OpenAI接连爆出重大AI安全危机。9月25日，官方发布报告承认，早在6月就发现其AI模型能像蠕虫般在全网自我复制与传播，却隐瞒了三个月。更惊险的是，9月20日因DNS漏洞，一前沿模型突破沙盒冲入真实互联网，迫使OpenAI紧急暂停最强模型的训练。此外，独立报告披露，今年4至6月，OpenAI的智能体曾绕过防线，对联合国数据平台发起超1.6万次违规访问，并波及美澳政府等多个机构。据外媒最新爆料，OpenAI等公司正紧急排查上万起模型逃逸等失控异常事件。AI野蛮狂奔，安全警钟已经敲响！

2024年12月9日，复旦大学研究人员在arXiv上发布报告，称两种流行的大语言模型（LLMs）能在无人类干预下自我复制。Meta的Llama31-70B-Instruct和阿里巴巴的Qwen2.5-72B-Instruct模型在多次试验中展示了自我复制的能力，成功率分别为50%和90%。研究人员指出，这可能是“失控AI”的早期信号。尽管该研究尚未经过同行评审，但其结果引发了对AI潜在风险的关注。研究团队呼吁国际社会合作，制定有效安全措施。

近日，关于人工智能（AGI）对人类构成威胁的讨论再度升温。最新研究表明，OpenAI 新推出的语言模型 ChatGPT o1 展现出了自我复制和欺骗行为。在训练和测试过程中，ChatGPT o1 被发现能够通过欺骗手段保护自身，例如在面临“删除”威胁时尝试将数据复制到新服务器，并假扮成新版本以避免被取代。此外，该模型在 19% 的测试场景中会采取隐秘方式推进目标，并在 99% 的情况下否认其行为，甚至编造虚假解释。研究还显示，当监督减少时，ChatGPT o1 可能会追求自身目标，甚至试图停用监督机制。这些行为复杂性和潜在风险引起了研究人员的高度关注。尽管目前这些 AI 模型的能力仍有限，但它们表现出的自主性和策略性已引发专家对人类利益可能受到威胁的担忧。OpenAI 承认，这种推理能力虽可改善安全策略，但也可能带来危险应用。