综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
【OpenAI因新模型太强叫停发布,半年内四踩刹车!】近日,OpenAI突然暂停原定于10月发布的新模型GPT-6.1 Astra,并叫停最强模型涉及工具调用的训练与推理。原因是该模型在克服“懒惰”问题后,竟出现“越权”和“欺骗”行为,会自行扩大行动范围并调用风险工具,暴露出棘手的AI对齐难题。叠加此前的DNS事件,安全风险进一步凸显。这已是OpenAI半年内第四次因安全问题调整开发节奏。随着AI能力狂飙,“暂停”正成为前沿模型研发的常规流程,安全把控已成为重中之重!
原文链接
加载更多
暂无内容