Buchumschlag

Dynamic Attention-Guided Context Decoding for Mitigating Context Faithfulness Hallucinations in Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Huang, Yanwen, Zhang, Yong, Cheng, Ning, Li, Zhitao, Wang, Shaojun, Xiao, Jing
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

GRASP: Replace Redundant Layers with Adaptive Singular Parameters for Efficient Model Compression
von: Liu, Kainan, et al.
Veröffentlicht: (2024)

Sentinel: Decoding Context Utilization via Attention Probing for Efficient LLM Context Compression
von: Zhang, Yong, et al.
Veröffentlicht: (2025)

Mitigating Geospatial Knowledge Hallucination in Large Language Models: Benchmarking and Dynamic Factuality Aligning
von: Wang, Shengyuan, et al.
Veröffentlicht: (2025)

ContextFocus: Activation Steering for Contextual Faithfulness in Large Language Models
von: Anand, Nikhil, et al.
Veröffentlicht: (2026)

In-Context Sharpness as Alerts: An Inner Representation Perspective for Hallucination Mitigation
von: Chen, Shiqi, et al.
Veröffentlicht: (2024)

Manifold-based Sampling for In-Context Hallucination Detection in Large Language Models
von: Vamshi, Bodla Krishna, et al.
Veröffentlicht: (2026)

LANCET: Neural Intervention via Structural Entropy for Mitigating Faithfulness Hallucinations in LLMs
von: Wang, Chenxu, et al.
Veröffentlicht: (2026)

The Role of Diversity in In-Context Learning for Large Language Models
von: Xiao, Wenyang, et al.
Veröffentlicht: (2025)

Lookback Lens: Detecting and Mitigating Contextual Hallucinations in Large Language Models Using Only Attention Maps
von: Chuang, Yung-Sung, et al.
Veröffentlicht: (2024)

Seeing is Believing: Mitigating Hallucination in Large Vision-Language Models via CLIP-Guided Decoding
von: Deng, Ailin, et al.
Veröffentlicht: (2024)

Listen to the Context: Towards Faithful Large Language Models for Retrieval Augmented Generation on Climate Questions
von: Thulke, David, et al.
Veröffentlicht: (2025)

Efficient Contrastive Decoding with Probabilistic Hallucination Detection - Mitigating Hallucinations in Large Vision Language Models -
von: Fieback, Laura, et al.
Veröffentlicht: (2025)

Tree Attention: Topology-aware Decoding for Long-Context Attention on GPU clusters
von: Shyam, Vasudev, et al.
Veröffentlicht: (2024)

FaithEval: Can Your Language Model Stay Faithful to Context, Even If "The Moon is Made of Marshmallows"
von: Ming, Yifei, et al.
Veröffentlicht: (2024)

Mitigating Hallucinations in Large Language Models via Causal Reasoning
von: Li, Yuangang, et al.
Veröffentlicht: (2025)

Uncertainty Quantification for In-Context Learning of Large Language Models
von: Ling, Chen, et al.
Veröffentlicht: (2024)

Mitigating Hallucinated Translations in Large Language Models with Hallucination-focused Preference Optimization
von: Tang, Zilu, et al.
Veröffentlicht: (2025)

GRAD: Graph-Retrieved Adaptive Decoding for Hallucination Mitigation
von: Nguyen, Manh, et al.
Veröffentlicht: (2025)

Core Context Aware Transformers for Long Context Language Modeling
von: Chen, Yaofo, et al.
Veröffentlicht: (2024)

Active Layer-Contrastive Decoding Reduces Hallucination in Large Language Model Generation
von: Zhang, Hongxiang, et al.
Veröffentlicht: (2025)

Attention Sinks as Internal Signals for Hallucination Detection in Large Language Models
von: Binkowski, Jakub, et al.
Veröffentlicht: (2026)

Context-Guided Dynamic Retrieval for Improving Generation Quality in RAG Models
von: He, Jacky, et al.
Veröffentlicht: (2025)

RAVEN: In-Context Learning with Retrieval-Augmented Encoder-Decoder Language Models
von: Huang, Jie, et al.
Veröffentlicht: (2023)

Generalization or Hallucination? Understanding Out-of-Context Reasoning in Transformers
von: Huang, Yixiao, et al.
Veröffentlicht: (2025)

Fortify the Shortest Stave in Attention: Enhancing Context Awareness of Large Language Models for Effective Tool Use
von: Chen, Yuhan, et al.
Veröffentlicht: (2023)

Out-of-Context Reasoning in Large Language Models
von: Shaki, Jonathan, et al.
Veröffentlicht: (2025)

TraceDet: Hallucination Detection from the Decoding Trace of Diffusion Large Language Models
von: Chang, Shenxu, et al.
Veröffentlicht: (2025)

LongReD: Mitigating Short-Text Degradation of Long-Context Large Language Models via Restoration Distillation
von: Dong, Zican, et al.
Veröffentlicht: (2025)

Gradient-guided Attention Map Editing: Towards Efficient Contextual Hallucination Mitigation
von: Wang, Yu, et al.
Veröffentlicht: (2025)

AutoGuide: Automated Generation and Selection of Context-Aware Guidelines for Large Language Model Agents
von: Fu, Yao, et al.
Veröffentlicht: (2024)

Towards Lightweight Reliability: Using Soft Prompts for Hallucination Mitigation in Large Language Models
von: Siddiqui, S M Tahmid, et al.
Veröffentlicht: (2026)

Analyzing and Mitigating Object Hallucination in Large Vision-Language Models
von: Zhou, Yiyang, et al.
Veröffentlicht: (2023)

Large Language Models are Miscalibrated In-Context Learners
von: Li, Chengzu, et al.
Veröffentlicht: (2023)

Rethinking LLM-as-a-Judge: Representation-as-a-Judge with Small Language Models via Semantic Capacity Asymmetry
von: Li, Zhuochun, et al.
Veröffentlicht: (2026)

CPR: Mitigating Large Language Model Hallucinations with Curative Prompt Refinement
von: Shim, Jung-Woo, et al.
Veröffentlicht: (2025)

Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation
von: Mündler, Niels, et al.
Veröffentlicht: (2023)

Multi-stage Prompt Refinement for Mitigating Hallucinations in Large Language Models
von: Shim, Jung-Woo, et al.
Veröffentlicht: (2025)

Long Context RAG Performance of Large Language Models
von: Leng, Quinn, et al.
Veröffentlicht: (2024)

In-context Autoencoder for Context Compression in a Large Language Model
von: Ge, Tao, et al.
Veröffentlicht: (2023)

S$^3$-Attention:Attention-Aligned Endogenous Retrieval for Memory-Bounded Long-Context Inference
von: Ma, Qingsen, et al.
Veröffentlicht: (2026)