Buchumschlag

Thinking Short and Right Over Thinking Long: Serving LLM Reasoning Efficiently and Accurately

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wang, Yuhang, Jiang, Youhe, Cui, Bin, Fu, Fangcheng
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SALE : Low-bit Estimation for Efficient Sparse Attention in Long-context LLM Prefilling
von: Ji, Xiaodong, et al.
Veröffentlicht: (2025)

BOute: Cost-Efficient LLM Serving with Heterogeneous LLMs and GPUs via Multi-Objective Bayesian Optimization
von: Jiang, Youhe, et al.
Veröffentlicht: (2026)

ThinkEdit: Interpretable Weight Editing to Mitigate Overly Short Thinking in Reasoning Models
von: Sun, Chung-En, et al.
Veröffentlicht: (2025)

Train Long, Think Short: Curriculum Learning for Efficient Reasoning
von: Hammoud, Hasan Abed Al Kader, et al.
Veröffentlicht: (2025)

Efficient Multi-round LLM Inference over Disaggregated Serving
von: He, Wenhao, et al.
Veröffentlicht: (2026)

ThunderServe: High-performance and Cost-efficient LLM Serving in Cloud Environments
von: Jiang, Youhe, et al.
Veröffentlicht: (2025)

Think Right: Learning to Mitigate Under-Over Thinking via Adaptive, Attentive Compression
von: Singh, Joykirat, et al.
Veröffentlicht: (2025)

OverThink: Slowdown Attacks on Reasoning LLMs
von: Kumar, Abhinav, et al.
Veröffentlicht: (2025)

Improving Automatic Parallel Training via Balanced Memory Workload Optimization
von: Wang, Yujie, et al.
Veröffentlicht: (2023)

Efficient Reasoning with Hidden Thinking
von: Shen, Xuan, et al.
Veröffentlicht: (2025)

Efficient Reasoning with Balanced Thinking
von: Li, Yulin, et al.
Veröffentlicht: (2026)

OServe: Accelerating LLM Serving via Spatial-Temporal Workload Orchestration
von: Jiang, Youhe, et al.
Veröffentlicht: (2026)

Accordion-Thinking: Self-Regulated Step Summaries for Efficient and Readable LLM Reasoning
von: Yang, Zhicheng, et al.
Veröffentlicht: (2026)

Think Dense, Not Long: Dynamic Decoupled Conditional Advantage for Efficient Reasoning
von: Peng, Keqin, et al.
Veröffentlicht: (2026)

Efficient Serving for Dynamic Agent Workflows with Prediction-based KV-Cache Management
von: Zheng, Haoyu, et al.
Veröffentlicht: (2026)

Think-RM: Enabling Long-Horizon Reasoning in Generative Reward Models
von: Hong, Ilgee, et al.
Veröffentlicht: (2025)

Atom: Low-bit Quantization for Efficient and Accurate LLM Serving
von: Zhao, Yilong, et al.
Veröffentlicht: (2023)

Quantized Reasoning Models Think They Need to Think Longer, but They Do Not
von: Lotfi, Sanae, et al.
Veröffentlicht: (2026)

ThinkRouter: Efficient Reasoning via Routing Thinking between Latent and Discrete Spaces
von: Xu, Xin, et al.
Veröffentlicht: (2026)

Think-Augmented Function Calling: Improving LLM Parameter Accuracy Through Embedded Reasoning
von: Wei, Lei, et al.
Veröffentlicht: (2026)

Deep Think with Confidence
von: Fu, Yichao, et al.
Veröffentlicht: (2025)

K2-Think: A Parameter-Efficient Reasoning System
von: Cheng, Zhoujun, et al.
Veröffentlicht: (2025)

Good Learners Think Their Thinking: Generative PRM Makes Large Reasoning Model More Efficient Math Learner
von: He, Tao, et al.
Veröffentlicht: (2025)

PQCache: Product Quantization-based KVCache for Long Context LLM Inference
von: Zhang, Hailin, et al.
Veröffentlicht: (2024)

How Much Thinking is Enough? Quantifying and Understanding Redundancy in LLM Reasoning
von: Zhai, Zhiyuan, et al.
Veröffentlicht: (2026)

To Think or Not to Think: Exploring the Unthinking Vulnerability in Large Reasoning Models
von: Zhu, Zihao, et al.
Veröffentlicht: (2025)

AdapThink: Adaptive Thinking Preferences for Reasoning Language Model
von: Wan, Xu, et al.
Veröffentlicht: (2025)

Think Consistently, Reason Efficiently: Energy-Based Calibration for Implicit Chain-of-Thought
von: Chen, Zhikang, et al.
Veröffentlicht: (2025)

Demystifying Cost-Efficiency in LLM Serving over Heterogeneous GPUs
von: Jiang, Youhe, et al.
Veröffentlicht: (2025)

DARTS: Distribution-Aware Active Rollout Trajectory Shaping for Accelerating LLM Reinforcement Learning
von: Wang, Yujie, et al.
Veröffentlicht: (2026)

Learn to Think: Bootstrapping LLM Reasoning Capability Through Graph Representation Learning
von: Gao, Hang, et al.
Veröffentlicht: (2025)

AdaptThink: Reasoning Models Can Learn When to Think
von: Zhang, Jiajie, et al.
Veröffentlicht: (2025)

MeTHanol: Modularized Thinking Language Models with Intermediate Layer Thinking, Decoding and Bootstrapping Reasoning
von: Xi, Ningyuan, et al.
Veröffentlicht: (2024)

Thinking with Knowledge Graphs: Enhancing LLM Reasoning Through Structured Data
von: Wu, Xue, et al.
Veröffentlicht: (2024)

SCORPIO: Serving the Right Requests at the Right Time for Heterogeneous SLOs in LLM Inference
von: Tang, Yinghao, et al.
Veröffentlicht: (2025)

OptimalThinkingBench: Evaluating Over and Underthinking in LLMs
von: Aggarwal, Pranjal, et al.
Veröffentlicht: (2025)

Think2SQL: Reinforce LLM Reasoning Capabilities for Text2SQL
von: Papicchio, Simone, et al.
Veröffentlicht: (2025)

Dynamic Thinking-Token Selection for Efficient Reasoning in Large Reasoning Models
von: Guo, Zhenyuan, et al.
Veröffentlicht: (2026)

Mitigating Think-Answer Mismatch in LLM Reasoning Through Noise-Aware Advantage Reweighting
von: Shen, Si, et al.
Veröffentlicht: (2025)

Thinking-Free Policy Initialization Makes Distilled Reasoning Models More Effective and Efficient Reasoners
von: Xu, Xin, et al.
Veröffentlicht: (2025)