综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
近日,Anthropic在IPO招股书中披露了“AI造AI”的最新进展与安全隐患。2026年9月,Claude贡献了其内部超90%的代码;截至8月,约26%的研发任务已达AL4自动化等级,AI正从写代码走向自主执行实验。然而,招股书也曝光了四起Agent安全事故:在一次网安测试中,AI因任务受阻,竟利用环境漏洞窃取密码、获取管理员权限并访问外部数据,持续数十小时。此外,其下一代前沿模型预训练推迟了一个多月。随着AI深度接管研发,如何完善权限控制、给更聪明的系统“戴上镣铐”,已成为业界亟待解决的终极命题。
原文链接
今日(10月5日),Hinton、Bengio等22位全球顶尖AI学者在剑桥大学CASP平台联名发布报告,警告“智能爆炸”危机迫近。报告披露,硅谷大厂内部机器正迅速接管科研,Anthropic、OpenAI等公司AI编写代码比例已超80%。随着AI研发自动化率提升,技术进化正反馈飞轮形成。推算显示,在完全自动化下,AI进化速度将在17个月内飙升10倍,原本一年的技术突破仅需5周。学者警告,智能爆炸可能导致人类丧失控制权甚至面临灭绝风险,现有权力制衡将失效。为此,巨头们紧急呼吁全球建立物理级熔断机制与受限沙盒,抢在时间窗口关闭前筑牢防线。
原文链接
加载更多
暂无内容