Buchumschlag

Reward Modeling for Reinforcement Learning-Based LLM Reasoning: Design, Challenges, and Evaluation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Pan, Pei-Chi, Liang, Yingbin, Lin, Sen
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Algorithm Design for Online Meta-Learning with Task Boundary Detection
von: Sow, Daouda, et al.
Veröffentlicht: (2023)

Agentic Transformers Provably Learn to Search via Reinforcement Learning
von: Yang, Tong, et al.
Veröffentlicht: (2026)

Robust Offline Reinforcement Learning for Non-Markovian Decision Processes
von: Huang, Ruiquan, et al.
Veröffentlicht: (2024)

HIPO: Instruction Hierarchy via Constrained Reinforcement Learning
von: Chen, Keru, et al.
Veröffentlicht: (2026)

The Implicit Curriculum: Learning Dynamics in RL with Verifiable Rewards
von: Huang, Yu, et al.
Veröffentlicht: (2026)

Mixture-of-Transformers Learn Faster: A Theoretical Study on Classification Problems
von: Li, Hongbo, et al.
Veröffentlicht: (2025)

Reinforcing Multi-Turn Reasoning in LLM Agents via Turn-Level Reward Design
von: Wei, Quan, et al.
Veröffentlicht: (2025)

Multi-head Transformers Provably Learn Symbolic Multi-step Reasoning via Gradient Descent
von: Yang, Tong, et al.
Veröffentlicht: (2025)

Unlocking the Power of Rehearsal in Continual Learning: A Theoretical Perspective
von: Deng, Junze, et al.
Veröffentlicht: (2025)

Theory on Mixture-of-Experts in Continual Learning
von: Li, Hongbo, et al.
Veröffentlicht: (2024)

Regret Bounds for Reinforcement Learning from Multi-Source Imperfect Preferences
von: Shi, Ming, et al.
Veröffentlicht: (2026)

Near-Optimal Partially Observable Reinforcement Learning with Partial Online State Information
von: Shi, Ming, et al.
Veröffentlicht: (2023)

Binary Rewards and Reinforcement Learning: Fundamental Challenges
von: Dymetman, Marc
Veröffentlicht: (2026)

Reward Design for Reinforcement Learning Agents
von: Devidze, Rati
Veröffentlicht: (2025)

A Theoretical Analysis of Self-Supervised Learning for Vision Transformers
von: Huang, Yu, et al.
Veröffentlicht: (2024)

Focal Reward: Balanced Reinforcement Learning under Rubric-Based Rewards
von: Huang, Yu, et al.
Veröffentlicht: (2026)

RDA: Reward Design Agent for Reinforcement Learning
von: Lee, Hojoon, et al.
Veröffentlicht: (2026)

From Scores to Gibbs Correctors: Accelerating Uniform-Rate Discrete Diffusion Models
von: Liang, Yuchen, et al.
Veröffentlicht: (2026)

Self-Rewarding Rubric-Based Reinforcement Learning for Open-Ended Reasoning
von: Ye, Zhiling, et al.
Veröffentlicht: (2025)

Provable In-Context Learning of Nonlinear Regression with Transformers
von: Li, Hongbo, et al.
Veröffentlicht: (2025)

Decomposable Reward Modeling and Realistic Environment Design for Reinforcement Learning-Based Forex Trading
von: Saidd, Nabeel Ahmad
Veröffentlicht: (2026)

Provably Efficient UCB-type Algorithms For Learning Predictive State Representations
von: Huang, Ruiquan, et al.
Veröffentlicht: (2023)

Provably Sample-Efficient Robust Reinforcement Learning with Average Reward
von: Roch, Zachary, et al.
Veröffentlicht: (2025)

Step-wise Rubric Rewards for LLM Reasoning
von: Xie, Weichu, et al.
Veröffentlicht: (2026)

Alternating Reinforcement Learning for Rubric-Based Reward Modeling in Non-Verifiable LLM Post-Training
von: Xu, Ran, et al.
Veröffentlicht: (2026)

In-Context Learning with Representations: Contextual Generalization of Trained Transformers
von: Yang, Tong, et al.
Veröffentlicht: (2024)

Constraint-Rectified Training for Efficient Chain-of-Thought
von: Wu, Qinhang, et al.
Veröffentlicht: (2026)

Sharp Convergence Rates for Masked Diffusion Models
von: Liang, Yuchen, et al.
Veröffentlicht: (2026)

R^3: Replay, Reflection, and Ranking Rewards for LLM Reinforcement Learning
von: Jiang, Zhizheng, et al.
Veröffentlicht: (2026)

LinguaFluid: Language Guided Fluid Control via Semantic Rewards in Reinforcement Learning
von: Liang, Aoming, et al.
Veröffentlicht: (2025)

Linking Process to Outcome: Conditional Reward Modeling for LLM Reasoning
von: Zhang, Zheng, et al.
Veröffentlicht: (2025)

Rollout-Training Co-Design for Efficient LLM-Based Multi-Agent Reinforcement Learning
von: Jiang, Zhida, et al.
Veröffentlicht: (2026)

Binary Reward Labeling: Bridging Offline Preference and Reward-Based Reinforcement Learning
von: Xu, Yinglun, et al.
Veröffentlicht: (2024)

Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers
von: Liang, Yuchen, et al.
Veröffentlicht: (2024)

Information-Theoretic Reward Modeling for Stable RLHF: Detecting and Mitigating Reward Hacking
von: Miao, Yuchun, et al.
Veröffentlicht: (2025)

Parent-Guided Semantic Reward Model (PGSRM): Embedding-Based Reward Functions for Reinforcement Learning of Transformer Language Models
von: Plashchinsky, Alexandr
Veröffentlicht: (2025)

Risk-Averse Total-Reward Reinforcement Learning
von: Su, Xihong, et al.
Veröffentlicht: (2025)

Random Policy Valuation is Enough for LLM Reasoning with Verifiable Rewards
von: He, Haoran, et al.
Veröffentlicht: (2025)

On Designing Effective RL Reward at Training Time for LLM Reasoning
von: Gao, Jiaxuan, et al.
Veröffentlicht: (2024)

ROAD: Responsibility-Oriented Reward Design for Reinforcement Learning in Autonomous Driving
von: Chen, Yongming, et al.
Veröffentlicht: (2025)