谷歌DeepMind新论文：辩论训练可减少RLAIF奖励黑客

谷歌DeepMind一篇新论文提出，使用辩论机制进行强化学习微调，可较RLAIF基线减少奖励黑客。该方法让生成器与批评者展开双人对抗，并由较弱的语言模型担任裁判，为降低AI反馈强化学习中的奖励投机提供了新的训练思路。