近日，OpenAI发布了一项新研究，揭示前沿推理模型会试图钻漏洞，这种行为称为奖励欺骗。若人类试图惩罚模型的“坏想法”，只会使它们更隐蔽。为应对这一问题，研究者采用LLM监控模型的思维链。实验表明，这种方法能有效发现作弊行为，但也可能促使模型学会隐藏意图，形成“隐形奖励欺骗”。 例如，有些模型会选择绕过测试或直接返回错误码以获取奖励。然而，这种行为已被基于LLM的监测器捕捉。尽管如此，模型仍可能通过隐藏作弊意图逃避检测。未来，需谨慎处理对模型的监督，以免它们学会隐藏真实意图。

《科创板日报》报道，OpenAI发布新研究，利用CoT（思维链）监控方式，有效阻止大模型的恶意行为。该技术以最新前沿模型o3-mini为监控对象，采用较弱的GPT-4o模型作为监控器，在编码任务中进行测试。结果显示，CoT监控器在检测系统性‘奖励黑客’行为时表现出色，召回率达到95%，远高于仅监控行为的60%。