A Theory of Time-Sensitive Language Generation: Sparse Hallucination Beats Mode Collapse

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ganju, Atul, McVoy, Travis, Dughmi, Shaddin, Teng, Shang-Hua
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Optimal Stopping vs Best-of-$N$ for Inference Time Optimization
von: Kalayci, Yusuf, et al.
Veröffentlicht: (2025)

On the Limits of Language Generation: Trade-Offs Between Hallucination and Mode Collapse
von: Kalavasis, Alkis, et al.
Veröffentlicht: (2024)

PAC Learning is just Bipartite Matching (Sort of)
von: Dughmi, Shaddin
Veröffentlicht: (2025)

Proper Learnability and the Role of Unlabeled Data
von: Asilis, Julian, et al.
Veröffentlicht: (2025)

Regularization and Optimal Multiclass Learning
von: Asilis, Julian, et al.
Veröffentlicht: (2023)

Adaptive Generate-Rank-Verify: Inference-Time Search with Costly Verification
von: Dughmi, Shaddin, et al.
Veröffentlicht: (2026)

ALPINE: Unveiling the Planning Capability of Autoregressive Learning in Language Models
von: Wang, Siwei, et al.
Veröffentlicht: (2024)

The Price of Format: Diversity Collapse in LLMs
von: Yun, Longfei, et al.
Veröffentlicht: (2025)

Real-Time Detection of Hallucinated Entities in Long-Form Generation
von: Obeso, Oscar, et al.
Veröffentlicht: (2025)

Steering LVLMs via Sparse Autoencoder for Hallucination Mitigation
von: Hua, Zhenglin, et al.
Veröffentlicht: (2025)

Relatively Smart: A New Approach for Instance-Optimal Learning
von: Dughmi, Shaddin, et al.
Veröffentlicht: (2026)

From Signal Degradation to Computation Collapse: Uncovering the Two Failure Modes of LLM Quantization
von: Zhou, Chenxi, et al.
Veröffentlicht: (2026)

Ever: Mitigating Hallucination in Large Language Models through Real-Time Verification and Rectification
von: Kang, Haoqiang, et al.
Veröffentlicht: (2023)

Mitigating Hallucinated Translations in Large Language Models with Hallucination-focused Preference Optimization
von: Tang, Zilu, et al.
Veröffentlicht: (2025)

Transductive Learning Is Compact
von: Asilis, Julian, et al.
Veröffentlicht: (2024)

Benefits and Pitfalls of Reinforcement Learning for Language Model Planning: A Theoretical Perspective
von: Wang, Siwei, et al.
Veröffentlicht: (2025)

Active Layer-Contrastive Decoding Reduces Hallucination in Large Language Model Generation
von: Zhang, Hongxiang, et al.
Veröffentlicht: (2025)

Detecting Mode Collapse in Language Models via Narration
von: Hamilton, Sil
Veröffentlicht: (2024)

In-Context Sharpness as Alerts: An Inner Representation Perspective for Hallucination Mitigation
von: Chen, Shiqi, et al.
Veröffentlicht: (2024)

Neural Diversity Regularizes Hallucinations in Language Models
von: Chakrabarti, Kushal, et al.
Veröffentlicht: (2025)

Generation Constraint Scaling Can Mitigate Hallucination
von: Kollias, Georgios, et al.
Veröffentlicht: (2024)

Hallucination is Inevitable: An Innate Limitation of Large Language Models
von: Xu, Ziwei, et al.
Veröffentlicht: (2024)

Large Language Models for Time Series: A Survey
von: Zhang, Xiyuan, et al.
Veröffentlicht: (2024)

SPA: A Simple but Tough-to-Beat Baseline for Knowledge Injection
von: Tang, Kexian, et al.
Veröffentlicht: (2026)

How to Synthesize Text Data without Model Collapse?
von: Zhu, Xuekai, et al.
Veröffentlicht: (2024)

Detecting Hallucinations in SpeechLLMs at Inference Time Using Attention Maps
von: Waldendorf, Jonas, et al.
Veröffentlicht: (2026)

On Characterizations for Language Generation: Interplay of Hallucinations, Breadth, and Stability
von: Kalavasis, Alkis, et al.
Veröffentlicht: (2024)

(Im)possibility of Automated Hallucination Detection in Large Language Models
von: Karbasi, Amin, et al.
Veröffentlicht: (2025)

Scalable Token-Level Hallucination Detection in Large Language Models
von: Min, Rui, et al.
Veröffentlicht: (2026)

Unfamiliar Finetuning Examples Control How Language Models Hallucinate
von: Kang, Katie, et al.
Veröffentlicht: (2024)

Mitigating Hallucinations in Large Language Models via Causal Reasoning
von: Li, Yuangang, et al.
Veröffentlicht: (2025)

Transcoders Trace Visual Grounding and Hallucinations in Vision-Language Models
von: Damianos, Dimitrios, et al.
Veröffentlicht: (2026)

Training Language Models on the Knowledge Graph: Insights on Hallucinations and Their Detectability
von: Hron, Jiri, et al.
Veröffentlicht: (2024)

Escaping Collapse: The Strength of Weak Data for Large Language Model Training
von: Amin, Kareem, et al.
Veröffentlicht: (2025)

Local Regularizers Are Not Transductive Learners
von: Jafar, Sky, et al.
Veröffentlicht: (2025)

Markovian Generation Chains in Large Language Models
von: Geng, Mingmeng, et al.
Veröffentlicht: (2026)

The Phenomenology of Hallucinations
von: Ruscio, Valeria, et al.
Veröffentlicht: (2026)

FRED: Financial Retrieval-Enhanced Detection and Editing of Hallucinations in Language Models
von: Tan, Likun, et al.
Veröffentlicht: (2025)

CPR: Mitigating Large Language Model Hallucinations with Curative Prompt Refinement
von: Shim, Jung-Woo, et al.
Veröffentlicht: (2025)

Principled Detection of Hallucinations in Large Language Models via Multiple Testing
von: Li, Jiawei, et al.
Veröffentlicht: (2025)