
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
OpenAI推出新模型CriticGPT,利用AI监督自身AI,旨在解决ChatGPT等AI产品存在的幻觉问题。这款基于GPT-4的模型通过强化学习(RLHF)提升人类训练师审查效率60%,能在代码输出中捕捉错误。CriticGPT是AI文本检测器的升级,通过篡改答案进行随机对照实验,其在识别人为错误和自然出现的bug上表现优异。OpenAI采用FSBS技术避免幻觉叠加导致更大错误,并强调CriticGPT的可扩展监督概念,预示着大模型监督大模型可能带来超越人类智能的可能性。这一创新有助于扩展RLHF的应用并推动人工智能的持续改进。
原文链接
加载更多

暂无内容