Gespeichert in:
| Hauptverfasser: | Gai, Jiading, Zhang, Shuai, Song, Xiang, Wang, Bernie, Karypis, George |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | https://arxiv.org/abs/2605.15422 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
HetRL: Efficient Reinforcement Learning for LLMs in Heterogeneous Environments
von: He, Yongjun, et al.
Veröffentlicht: (2025)
von: He, Yongjun, et al.
Veröffentlicht: (2025)
Extending Input Contexts of Language Models through Training on Segmented Sequences
von: Karypis, Petros, et al.
Veröffentlicht: (2023)
von: Karypis, Petros, et al.
Veröffentlicht: (2023)
OPERA: Online Data Pruning for Efficient Retrieval Model Adaptation
von: Fang, Haoyang, et al.
Veröffentlicht: (2026)
von: Fang, Haoyang, et al.
Veröffentlicht: (2026)
Parameter-Efficient Tuning Large Language Models for Graph Representation Learning
von: Zhu, Qi, et al.
Veröffentlicht: (2024)
von: Zhu, Qi, et al.
Veröffentlicht: (2024)
XShare: Collaborative in-Batch Expert Sharing for Faster MoE Inference
von: Vankov, Daniil, et al.
Veröffentlicht: (2026)
von: Vankov, Daniil, et al.
Veröffentlicht: (2026)
QuRL: Efficient Reinforcement Learning with Quantized Rollout
von: Li, Yuhang, et al.
Veröffentlicht: (2026)
von: Li, Yuhang, et al.
Veröffentlicht: (2026)
GNN-RAG: Graph Neural Retrieval for Large Language Model Reasoning
von: Mavromatis, Costas, et al.
Veröffentlicht: (2024)
von: Mavromatis, Costas, et al.
Veröffentlicht: (2024)
RollPacker: Mitigating Long-Tail Rollouts for Fast, Synchronous RL Post-Training
von: Gao, Wei, et al.
Veröffentlicht: (2025)
von: Gao, Wei, et al.
Veröffentlicht: (2025)
LazyEviction: Lagged KV Eviction with Attention Pattern Observation for Efficient Long Reasoning
von: Zhang, Haoyue, et al.
Veröffentlicht: (2025)
von: Zhang, Haoyue, et al.
Veröffentlicht: (2025)
Beyond KV Caching: Shared Attention for Efficient LLMs
von: Liao, Bingli, et al.
Veröffentlicht: (2024)
von: Liao, Bingli, et al.
Veröffentlicht: (2024)
Long-context Protein Language Modeling Using Bidirectional Mamba with Shared Projection Layers
von: Wang, Yingheng, et al.
Veröffentlicht: (2024)
von: Wang, Yingheng, et al.
Veröffentlicht: (2024)
MoSKA: Mixture of Shared KV Attention for Efficient Long-Sequence LLM Inference
von: Rhee, Myunghyun, et al.
Veröffentlicht: (2025)
von: Rhee, Myunghyun, et al.
Veröffentlicht: (2025)
CSKV: Training-Efficient Channel Shrinking for KV Cache in Long-Context Scenarios
von: Wang, Luning, et al.
Veröffentlicht: (2024)
von: Wang, Luning, et al.
Veröffentlicht: (2024)
QaRL: Rollout-Aligned Quantization-Aware RL for Fast and Stable Training under Training--Inference Mismatch
von: Gu, Hao, et al.
Veröffentlicht: (2026)
von: Gu, Hao, et al.
Veröffentlicht: (2026)
FlashMask: Efficient and Rich Mask Extension of FlashAttention
von: Wang, Guoxia, et al.
Veröffentlicht: (2024)
von: Wang, Guoxia, et al.
Veröffentlicht: (2024)
InfoFlow KV: Information-Flow-Aware KV Recomputation for Long Context
von: Teng, Xin, et al.
Veröffentlicht: (2026)
von: Teng, Xin, et al.
Veröffentlicht: (2026)
FlashDP: Private Training Large Language Models with Efficient DP-SGD
von: Wang, Liangyu, et al.
Veröffentlicht: (2025)
von: Wang, Liangyu, et al.
Veröffentlicht: (2025)
Accelerating RL Post-Training Rollouts via System-Integrated Speculative Decoding
von: Iso, Hayate, et al.
Veröffentlicht: (2026)
von: Iso, Hayate, et al.
Veröffentlicht: (2026)
Understanding Silent Data Corruption in LLM Training
von: Ma, Jeffrey, et al.
Veröffentlicht: (2025)
von: Ma, Jeffrey, et al.
Veröffentlicht: (2025)
Stable and Efficient Single-Rollout RL for Multimodal Reasoning
von: Liu, Rui, et al.
Veröffentlicht: (2025)
von: Liu, Rui, et al.
Veröffentlicht: (2025)
Jet-RL: Enabling On-Policy FP8 Reinforcement Learning with Unified Training and Rollout Precision Flow
von: Xi, Haocheng, et al.
Veröffentlicht: (2026)
von: Xi, Haocheng, et al.
Veröffentlicht: (2026)
Sharing is Caring: Efficient LM Post-Training with Collective RL Experience Sharing
von: Amico, Jeffrey, et al.
Veröffentlicht: (2025)
von: Amico, Jeffrey, et al.
Veröffentlicht: (2025)
Heddle: A Distributed Orchestration System for Agentic RL Rollout
von: Zhang, Zili, et al.
Veröffentlicht: (2026)
von: Zhang, Zili, et al.
Veröffentlicht: (2026)
P-EAGLE: Parallel-Drafting EAGLE with Scalable Training
von: Hui, Mude, et al.
Veröffentlicht: (2026)
von: Hui, Mude, et al.
Veröffentlicht: (2026)
Efficient Table Retrieval and Understanding with Multimodal Large Language Models
von: Xu, Zhuoyan, et al.
Veröffentlicht: (2026)
von: Xu, Zhuoyan, et al.
Veröffentlicht: (2026)
MadaKV: Adaptive Modality-Perception KV Cache Eviction for Efficient Multimodal Long-Context Inference
von: Li, Kunxi, et al.
Veröffentlicht: (2025)
von: Li, Kunxi, et al.
Veröffentlicht: (2025)
KV Admission: Learning What to Write for Efficient Long-Context Inference
von: Huang, Yen-Chieh, et al.
Veröffentlicht: (2025)
von: Huang, Yen-Chieh, et al.
Veröffentlicht: (2025)
Train Less, Learn More: Adaptive Efficient Rollout Optimization for Group-Based Reinforcement Learning
von: Zhang, Zhi, et al.
Veröffentlicht: (2026)
von: Zhang, Zhi, et al.
Veröffentlicht: (2026)
Train at Moving Edge: Online-Verified Prompt Selection for Efficient RL Training of Large Reasoning Model
von: Wu, Jiahao, et al.
Veröffentlicht: (2026)
von: Wu, Jiahao, et al.
Veröffentlicht: (2026)
LLMs Know What to Drop: Self-Attention Guided KV Cache Eviction for Efficient Long-Context Inference
von: Wang, Guangtao, et al.
Veröffentlicht: (2025)
von: Wang, Guangtao, et al.
Veröffentlicht: (2025)
MomentKV: Closing the Directional Gap in KV Cache Eviction for Long-Context Inference
von: Li, Yu, et al.
Veröffentlicht: (2026)
von: Li, Yu, et al.
Veröffentlicht: (2026)
Distributed Learning with Discretely Observed Functional Data
von: Liu, Jiading, et al.
Veröffentlicht: (2024)
von: Liu, Jiading, et al.
Veröffentlicht: (2024)
Statistical Optimality of Divide and Conquer Kernel-based Functional Linear Regression
von: Liu, Jiading, et al.
Veröffentlicht: (2022)
von: Liu, Jiading, et al.
Veröffentlicht: (2022)
EchoRL: Reinforcement Learning via Rollout Echoing
von: Bi, Jinhe, et al.
Veröffentlicht: (2026)
von: Bi, Jinhe, et al.
Veröffentlicht: (2026)
BREAD: Branched Rollouts from Expert Anchors Bridge SFT & RL for Reasoning
von: Zhang, Xuechen, et al.
Veröffentlicht: (2025)
von: Zhang, Xuechen, et al.
Veröffentlicht: (2025)
Enhancing Training Efficiency Using Packing with Flash Attention
von: Kundu, Achintya, et al.
Veröffentlicht: (2024)
von: Kundu, Achintya, et al.
Veröffentlicht: (2024)
SPHERICAL KV: Angle-Domain Attention and Rate-Distortion Retention for Efficient Long-Context Inference
von: Chauhan, Anay, et al.
Veröffentlicht: (2026)
von: Chauhan, Anay, et al.
Veröffentlicht: (2026)
Attention as a Compass: Efficient Exploration for Process-Supervised RL in Reasoning Models
von: Liu, Runze, et al.
Veröffentlicht: (2025)
von: Liu, Runze, et al.
Veröffentlicht: (2025)
KV Pareto: Systems-Level Optimization of KV Cache and Model Compression for Long Context Inference
von: Gokhale, Sai, et al.
Veröffentlicht: (2025)
von: Gokhale, Sai, et al.
Veröffentlicht: (2025)
How to Compress KV Cache in RL Post-Training? Shadow Mask Distillation for Memory-Efficient Alignment
von: Zhu, Rui, et al.
Veröffentlicht: (2026)
von: Zhu, Rui, et al.
Veröffentlicht: (2026)
Ähnliche Einträge
-
HetRL: Efficient Reinforcement Learning for LLMs in Heterogeneous Environments
von: He, Yongjun, et al.
Veröffentlicht: (2025) -
Extending Input Contexts of Language Models through Training on Segmented Sequences
von: Karypis, Petros, et al.
Veröffentlicht: (2023) -
OPERA: Online Data Pruning for Efficient Retrieval Model Adaptation
von: Fang, Haoyang, et al.
Veröffentlicht: (2026) -
Parameter-Efficient Tuning Large Language Models for Graph Representation Learning
von: Zhu, Qi, et al.
Veröffentlicht: (2024) -
XShare: Collaborative in-Batch Expert Sharing for Faster MoE Inference
von: Vankov, Daniil, et al.
Veröffentlicht: (2026)