Gradient Regularization Prevents Reward Hacking in Reinforcement Learning from Human Feedback and Verifiable Rewards

Ähnliche Einträge

• Off-Policy Corrected Reward Modeling for Reinforcement Learning from Human Feedback
  von: Ackermann, Johannes, et al.
  Veröffentlicht: (2025)
• Mitigating Reward Hacking in RLHF via Advantage Sign Robustness
  von: Ono, Shinnosuke, et al.
  Veröffentlicht: (2026)
• Towards Scalable Oversight via Partitioned Human Supervision
  von: Yin, Ren, et al.
  Veröffentlicht: (2025)
• Reward Shaping to Mitigate Reward Hacking in RLHF
  von: Fu, Jiayi, et al.
  Veröffentlicht: (2025)
• Feedback Loops With Language Models Drive In-Context Reward Hacking
  von: Pan, Alexander, et al.
  Veröffentlicht: (2024)