Buchumschlag

Learning Dynamics in RL Post-Training for Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Tomihari, Akiyoshi
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Power Distribution Bridges Sampling, Self-Reward RL, and Self-Distillation
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2026)

Understanding Linear Probing then Fine-tuning Language Models from NTK Perspective
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2024)

Recurrent Self-Attention Dynamics: An Energy-Agnostic Perspective from Jacobians
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2025)

Understanding Transformer Optimization via Gradient Heterogeneity
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2025)

DiRL: An Efficient Post-Training Framework for Diffusion Language Models
von: Zhu, Ying, et al.
Veröffentlicht: (2025)

JigsawRL: Assembling RL Pipelines for Efficient LLM Post-Training
von: Hu, Zhengding, et al.
Veröffentlicht: (2026)

Beyond Mode-Seeking RL: Trajectory-Balance Post-Training for Diffusion Language Models
von: Ahmadi, Saba, et al.
Veröffentlicht: (2026)

SCOPE-RL: Stable and Quantitative Control of Policy Entropy in RL Post-Training
von: Wang, Chen, et al.
Veröffentlicht: (2025)

Learning-Zone Energy: Online Data Selection for Efficient RL Post-Training
von: Cui, Peng, et al.
Veröffentlicht: (2026)

Balancing Signal and Variance: Adaptive Offline RL Post-Training for VLA Flow Models
von: Zhang, Hongyin, et al.
Veröffentlicht: (2025)

Imbalanced Gradients in RL Post-Training of Multi-Task LLMs
von: Wu, Runzhe, et al.
Veröffentlicht: (2025)

Infinite Sampling: Efficient and Stable Grouped RL Training for Large Language Models
von: Wang, Liangyu, et al.
Veröffentlicht: (2025)

On the Plasticity and Stability for Post-Training Large Language Models
von: Qiang, Wenwen, et al.
Veröffentlicht: (2026)

Training Dynamics Impact Post-Training Quantization Robustness
von: Catalan-Tatjer, Albert, et al.
Veröffentlicht: (2025)

On the Optimal Reasoning Length for RL-Trained Language Models
von: Nohara, Daisuke, et al.
Veröffentlicht: (2026)

Apriel-1.5-OpenReasoner: RL Post-Training for General-Purpose and Efficient Reasoning
von: Pardinas, Rafael, et al.
Veröffentlicht: (2026)

Small Generalizable Prompt Predictive Models Can Steer Efficient RL Post-Training of Large Reasoning Models
von: Qu, Yun, et al.
Veröffentlicht: (2026)

SPEED-RL: Faster Training of Reasoning Models via Online Curriculum Learning
von: Zhang, Ruiqi, et al.
Veröffentlicht: (2025)

Reinforce Adjoint Matching: Scaling RL Post-Training of Diffusion and Flow-Matching Models
von: Bergmeister, Andreas, et al.
Veröffentlicht: (2026)

Accelerating RL Post-Training Rollouts via System-Integrated Speculative Decoding
von: Iso, Hayate, et al.
Veröffentlicht: (2026)

Trust the Batch, On- or Off-Policy: Adaptive Policy Optimization for RL Post-Training
von: Fakoor, Rasool, et al.
Veröffentlicht: (2026)

GAC: Noise-Aware Adaptive Mixing for Hybrid SFT-RL Post-Training
von: Hu, Yuelin, et al.
Veröffentlicht: (2026)

CoScale-RL: Efficient Post-Training by Co-Scaling Data and Computation
von: Chen, Yutong, et al.
Veröffentlicht: (2026)

AsyncFlow: An Asynchronous Streaming RL Framework for Efficient LLM Post-Training
von: Han, Zhenyu, et al.
Veröffentlicht: (2025)

Sharing is Caring: Efficient LM Post-Training with Collective RL Experience Sharing
von: Amico, Jeffrey, et al.
Veröffentlicht: (2025)

Bootstrapped Mixed Rewards for RL Post-Training: Injecting Canonical Action Order
von: Gupta, Prakhar, et al.
Veröffentlicht: (2025)

$Q\sharp$: Provably Optimal Distributional RL for LLM Post-Training
von: Zhou, Jin Peng, et al.
Veröffentlicht: (2025)

Group Causal Policy Optimization for Post-Training Large Language Models
von: Gu, Ziyin, et al.
Veröffentlicht: (2025)

Laminar: A Scalable Asynchronous RL Post-Training Framework
von: Sheng, Guangming, et al.
Veröffentlicht: (2025)

Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models
von: Zou, Jade, et al.
Veröffentlicht: (2026)

TreeGRPO: Tree-Advantage GRPO for Online RL Post-Training of Diffusion Models
von: Ding, Zheng, et al.
Veröffentlicht: (2025)

On the Evolution of Federated Post-Training Large Language Models: A Model Accessibility View
von: Guo, Tao, et al.
Veröffentlicht: (2025)

LaRA: Layer-wise Representation Analysis for Detecting Data Contamination in RL Post-Training
von: Gwak, Minju, et al.
Veröffentlicht: (2026)

Hard Negative Sample-Augmented DPO Post-Training for Small Language Models
von: Lu, Haocheng, et al.
Veröffentlicht: (2025)

Adaptive Layer-Wise Transformations for Post-Training Quantization of Large Language Models
von: Pham, Cuong, et al.
Veröffentlicht: (2025)

RL Token: Bootstrapping Online RL with Vision-Language-Action Models
von: Xu, Charles, et al.
Veröffentlicht: (2026)

RL-Obfuscation: Can Language Models Learn to Evade Latent-Space Monitors?
von: Gupta, Rohan, et al.
Veröffentlicht: (2025)

Understanding Post-Training Structural Changes in Large Language Models
von: He, Xinyu, et al.
Veröffentlicht: (2025)

Scaling Laws for Post Training Quantized Large Language Models
von: Xu, Zifei, et al.
Veröffentlicht: (2024)

Post Training Quantization of Large Language Models with Microscaling Formats
von: Sharify, Sayeh, et al.
Veröffentlicht: (2024)