6/21日记

Parial rollouts是今天新学到的 Rl prompt set的构建需要的特征: 一个构建良好的 prompt set 不仅会引导模型走向稳健推理,还会降低 reward hacking 和过拟合表层模式的风险。具体来说,高质量 RL prompt set 由三个关键属 [...]