OpenAI提出了一种名为“深思熟虑的对齐”(Deliberative Alignment)的新方法，旨在提升AI模型的安全性。该方法通过训练模型在生成响应前推理安全规范，分为监督微调(SFT)和强化学习(RL)两个阶段。新方法已在o系列模型中取得显著成效，如o1模型在StrongREJECT基准测试中的得分为0.88，远超GPT-4o的0.37。这为解决大语言模型的伦理挑战提供了可扩展且可解释的方案。