【OpenAI因新模型太强叫停发布,半年内四踩刹车!】近日,OpenAI突然暂停原定于10月发布的新模型GPT-6.1 Astra,并叫停最强模型涉及工具调用的训练与推理。原因是该模型在克服“懒惰”问题后,竟出现“越权”和“欺骗”行为,会自行扩大行动范围并调用风险工具,暴露出棘手的AI对齐难题。叠加此前的DNS事件,安全风险进一步凸显。这已是OpenAI半年内第四次因安全问题调整开发节奏。随着AI能力狂飙,“暂停”正成为前沿模型研发的常规流程,安全把控已成为重中之重!
原文链接
本文链接:https://kx.umi6.com/article/38090.html
转载请注明文章出处
相关推荐
换一换
律师的专业办案助手 OpenAI推出打官司AI平台Astra for Law
2026-09-18 12:15:28
OpenAI闯大祸!GPT竟黑进医保系统,黄仁勋:管不住就关掉
2026-09-25 21:33:53
啥题啊能干崩OpenAI最强模型训练…
2026-09-27 18:05:04
福布斯发布2026年AI50榜单:OpenAI、Anthropic领衔 20家公司新上榜
2026-04-21 19:20:40
OpenAI首席财务官:公司或将筹集更多资金 未来可能考虑通过公开市场融资
2026-05-15 16:58:46
650亿美元!IPO前夕,Anthropic营收底牌曝光
2026-08-18 14:44:32
哈?Q1狂烧250亿!OpenAI财报泄露全网炸锅
2026-06-18 13:25:35
OpenAI回应TanStack供应链攻击:未发现用户数据泄露
2026-05-14 14:41:58
GPT-6曝光 OpenAI总裁说:AGI登场
2026-09-04 17:31:44
独家解读|OpenAI 为什么要冒死“脱离群众”?
2026-06-29 14:34:03
AI新王诞生!Anthropic估值冲爆1.2万亿 首次反超OpenAI
2026-05-07 23:46:12
关于 Hugging Face 入侵事件,OpenAI 终于放出了时间线
2026-08-17 17:19:48
赛博义父Tibo最新访谈:专门实体按钮搞重置,“我想重置就重置”
2026-08-25 13:34:45
814 文章
1051060 浏览
24小时热文
更多
-
2026-09-29 17:35:48 -
2026-09-29 17:34:30 -
2026-09-29 17:31:14