正文：Meta近日发布了一种全新的后训练框架CGPO，有效解决了强化学习与人类反馈（RLHF）在多任务学习中的奖励欺骗和多目标优化问题。CGPO通过混合评审机制和约束优化器，显著提升了语言模型在多任务环境中的表现，使编程水平提升了5%。实验结果显示，CGPO在多项任务中均超越现有算法，如在AlpacaEval-2、Arena-Hard、HumanEval等任务中均有显著提升。该框架有望为多任务学习提供更稳定的优化路径，进一步提升大型语言模型的效能和稳定性。论文链接：