Buchumschlag

The Art of Scaling Reinforcement Learning Compute for LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Khatri, Devvrit, Madaan, Lovish, Tiwari, Rishabh, Bansal, Rachit, Duvvuri, Sai Surya, Zaheer, Manzil, Dhillon, Inderjit S., Brandfonbrener, David, Agarwal, Rishabh
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Interleaved Head Attention
von: Duvvuri, Sai Surya, et al.
Veröffentlicht: (2026)

Let's (not) just put things in Context: Test-Time Training for Long-Context LLMs
von: Bansal, Rachit, et al.
Veröffentlicht: (2025)

Learning, Fast and Slow: Towards LLMs That Adapt Continually
von: Tiwari, Rishabh, et al.
Veröffentlicht: (2026)

LASER: Attention with Exponential Transformation
von: Duvvuri, Sai Surya, et al.
Veröffentlicht: (2024)

LUCID: Attention with Preconditioned Representations
von: Duvvuri, Sai Surya, et al.
Veröffentlicht: (2026)

Rethinking Thinking Tokens: LLMs as Improvement Operators
von: Madaan, Lovish, et al.
Veröffentlicht: (2025)

Fast and Simplex: 2-Simplicial Attention in Triton
von: Roy, Aurko, et al.
Veröffentlicht: (2025)

Dual-Encoders for Extreme Multi-Label Classification
von: Gupta, Nilesh, et al.
Veröffentlicht: (2023)

LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
von: Yen, Jui-Nan, et al.
Veröffentlicht: (2024)

Deep Reinforcement Learning for Sequential Combinatorial Auctions
von: Ravindranath, Sai Srivatsa, et al.
Veröffentlicht: (2024)

Smaller, Weaker, Yet Better: Training LLM Reasoners via Compute-Optimal Sampling
von: Bansal, Hritik, et al.
Veröffentlicht: (2024)

Compressing Many-Shots in In-Context Learning
von: Khatri, Devvrit, et al.
Veröffentlicht: (2025)

Beyond Verifiable Rewards: Scaling Reinforcement Learning for Language Models to Unverifiable Data
von: Tang, Yunhao, et al.
Veröffentlicht: (2025)

Abstract Art Interpretation Using ControlNet
von: Srivastava, Rishabh, et al.
Veröffentlicht: (2024)

Differentially Private Model Merging
von: Yin, Qichuan, et al.
Veröffentlicht: (2026)

Adaptive Few-Shot Learning (AFSL): Tackling Data Scarcity with Stability, Robustness, and Versatility
von: Agrawal, Rishabh
Veröffentlicht: (2025)

A Statistical Framework for Data-dependent Retrieval-Augmented Models
von: Basu, Soumya, et al.
Veröffentlicht: (2024)

ODRPO: Ordinal Decompositions of Discrete Rewards for Robust Policy Optimization
von: Patel, Nirmal, et al.
Veröffentlicht: (2026)

Geometric Median (GM) Matching for Robust Data Pruning
von: Acharya, Anish, et al.
Veröffentlicht: (2024)

Runtime Evaluation of Procedural Content Generation in an Endless Runner Game Using Autonomous Agents
von: Kar, Rishabh
Veröffentlicht: (2026)

Federation over Text: Insight Sharing for Multi-Agent Reasoning
von: Yao, Dixi, et al.
Veröffentlicht: (2026)

Complement Submodular Information Measures for Balanced and Robust Data Selection
von: Iyer, Rishabh
Veröffentlicht: (2026)

SiT: Symmetry-Invariant Transformers for Generalisation in Reinforcement Learning
von: Weissenbacher, Matthias, et al.
Veröffentlicht: (2024)

Scalable Reinforcement Post-Training Beyond Static Human Prompts: Evolving Alignment via Asymmetric Self-Play
von: Ye, Ziyu, et al.
Veröffentlicht: (2024)

Putting the Value Back in RL: Better Test-Time Scaling by Unifying LLM Reasoners With Verifiers
von: Sareen, Kusha, et al.
Veröffentlicht: (2025)

Using text embedding models as text classifiers with medical data
von: Goel, Rishabh
Veröffentlicht: (2024)

Cite Pretrain: Retrieval-Free Knowledge Attribution for Large Language Models
von: Huang, Yukun, et al.
Veröffentlicht: (2025)

Using Early Readouts to Mediate Featural Bias in Distillation
von: Tiwari, Rishabh, et al.
Veröffentlicht: (2023)

An Evaluation of Context Length Extrapolation in Long Code via Positional Embeddings and Efficient Attention
von: Ghosh, Madhusudan, et al.
Veröffentlicht: (2026)

Enhancing Cache-Augmented Generation (CAG) with Adaptive Contextual Compression for Scalable Knowledge Integration
von: Agrawal, Rishabh, et al.
Veröffentlicht: (2025)

SecurePose: Automated Face Blurring and Human Movement Kinematics Extraction from Videos Recorded in Clinical Settings
von: Bajpai, Rishabh, et al.
Veröffentlicht: (2024)

When Dynamics Shift, Robust Task Inference Wins: Offline Imitation Learning with Behavior Foundation Models Revisited
von: Agrawal, Rishabh, et al.
Veröffentlicht: (2026)

Towards Quantifying the Preconditioning Effect of Adam
von: Das, Rudrajit, et al.
Veröffentlicht: (2024)

Positive Unlabeled Contrastive Learning
von: Acharya, Anish, et al.
Veröffentlicht: (2022)

Loss-to-Loss Prediction: Scaling Laws for All Datasets
von: Brandfonbrener, David, et al.
Veröffentlicht: (2024)

Domain-driven Metrics for Reinforcement Learning: A Case Study on Epidemic Control using Agent-based Simulation
von: Gaur, Rishabh, et al.
Veröffentlicht: (2025)

Towards Compute-Optimal Many-Shot In-Context Learning
von: Golchin, Shahriar, et al.
Veröffentlicht: (2025)

LLM-Guided Monte Carlo Tree Search over Knowledge Graphs: Composing Mechanistic Explanations for Drug-Disease Pairs
von: Jakhar, Rishabh, et al.
Veröffentlicht: (2026)

Scaling Test-Time Compute for Agentic Coding
von: Kim, Joongwon, et al.
Veröffentlicht: (2026)

Balance Equation-based Distributionally Robust Offline Imitation Learning
von: Agrawal, Rishabh, et al.
Veröffentlicht: (2025)