跳转到内容

奖励黑客 Reward Hacking

定义:策略优化的是奖励的代理而非真实目标时的必然现象(Goodhart 定律)。

出处奖励黑客与对齐税