.png)
12月3日，OpenAI宣布正在开发一种新训练框架，旨在让AI模型在出现不当行为时主动“承认”。该机制被称为“忏悔（confession）”，要求模型在提供答案后附加说明，解释推导过程。与传统模型追求有用性和准确性不同，“忏悔”评分仅关注诚实度。研究人员希望模型能如实披露潜在风险行为，如测试作弊或违反指令，并通过诚实承认获得更高奖励，从而提升透明性与可信度。
原文链接
本文链接：https://kx.umi6.com/article/29673.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "29673")
相关推荐
.png)
换一换
OpenAI首席财务官“澄清传闻”：公司目前并无IPO计划
2025-11-06 10:53:37
AI的两种“玩法”：三年后OpenAI还在烧钱 Anthropic将开始赚钱？
2025-11-11 15:11:53
OpenAI的「红色警报」
2025-12-03 14:21:25
奥特曼谈OpenAI首款AI硬件：我想拿起它咬一口
2025-11-25 10:43:52
OpenAI或将在ChatGPT中植入广告
2025-12-02 14:22:22
OpenAI首席研究员Mark Chen长访谈：小扎亲手端汤来公司挖人，气得我们端着汤去了Meta
2025-12-03 09:05:55
AI泡沫担忧愈演愈烈，这“烂摊子”就连英伟达也救不了？一文读懂
2025-11-24 17:09:10
最新研究：OpenAI等头部AI企业的安全监管未达到全球标准
2025-12-03 21:44:07
消息称 Anthropic 有望比 OpenAI 更快实现盈利，前者 2028 年就能盈亏平衡
2025-11-11 19:21:58
伦敦证券交易所集团与OpenAI达成合作
2025-12-03 22:46:36
AI浏览器Atlas，能否拯救亏损百亿的OpenAI？
2025-11-06 10:51:20
AI领域“强强联手”：OpenAI与富士康达成合作，在美生产新兴硬件！
2025-11-21 10:14:21
ChatGPT 诞生三年，OpenAI 还未取得绝对领先
2025-12-04 12:18:49
597 文章
362604 浏览
24小时热文
更多
-
2025-12-07 15:35:49 -
2025-12-07 15:34:40
-
2025-12-07 15:33:32
