Buchumschlag

When RAG Hurts: Diagnosing and Mitigating Attention Distraction in Retrieval-Augmented LVLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhao, Beidi, Deng, Wenlong, Liao, Xinting, Li, Yushu, Shaikh, Nazim, Nie, Yao, Li, Xiaoxiao
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computer Vision and Pattern Recognition Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Directional Alignment Mitigates Reward Hacking in Reinforcement Learning for Language Models
von: Deng, Wenlong, et al.
Veröffentlicht: (2026)

MultiRAG: A Knowledge-guided Framework for Mitigating Hallucination in Multi-source Retrieval Augmented Generation
von: Wu, Wenlong, et al.
Veröffentlicht: (2025)

LLM-Assisted Content Conditional Debiasing for Fair Text Embedding
von: Deng, Wenlong, et al.
Veröffentlicht: (2024)

On Group Relative Policy Optimization Collapse in Agent Search: The Lazy Likelihood-Displacement
von: Deng, Wenlong, et al.
Veröffentlicht: (2025)

Stable-RAG: Mitigating Retrieval-Permutation-Induced Hallucinations in Retrieval-Augmented Generation
von: Zhang, Qianchi, et al.
Veröffentlicht: (2026)

ParetoRAG: Leveraging Sentence-Context Attention for Robust and Efficient Retrieval-Augmented Generation
von: Yao, Ruobing, et al.
Veröffentlicht: (2025)

Retrieval Helps or Hurts? A Deeper Dive into the Efficacy of Retrieval Augmentation to Language Models
von: Maekawa, Seiji, et al.
Veröffentlicht: (2024)

Token Hidden Reward: Steering Exploration-Exploitation in Group Relative Deep Reinforcement Learning
von: Deng, Wenlong, et al.
Veröffentlicht: (2025)

When Do LLMs Need Retrieval Augmentation? Mitigating LLMs' Overconfidence Helps Retrieval Augmentation
von: Ni, Shiyu, et al.
Veröffentlicht: (2024)

Evaluating Social Bias in RAG Systems: When External Context Helps and Reasoning Hurts
von: Parihar, Shweta, et al.
Veröffentlicht: (2026)

AttentionRAG: Attention-Guided Context Pruning in Retrieval-Augmented Generation
von: Fang, Yixiong, et al.
Veröffentlicht: (2025)

Does RAG Know When Retrieval Is Wrong? Diagnosing Context Compliance under Knowledge Conflict
von: Chen, Yihang, et al.
Veröffentlicht: (2026)

Modality Bias in LVLMs: Analyzing and Mitigating Object Hallucination via Attention Lens
von: Zheng, Haohan, et al.
Veröffentlicht: (2025)

When to use Graphs in RAG: A Comprehensive Analysis for Graph Retrieval-Augmented Generation
von: Xiang, Zhishang, et al.
Veröffentlicht: (2025)

FKA-Owl: Advancing Multimodal Fake News Detection through Knowledge-Augmented LVLMs
von: Liu, Xuannan, et al.
Veröffentlicht: (2024)

SMART-RAG: Selection using Determinantal Matrices for Augmented Retrieval
von: Li, Jiatao, et al.
Veröffentlicht: (2024)

Cross-modality Attention-based Multimodal Fusion for Non-small Cell Lung Cancer (NSCLC) Patient Survival Prediction
von: Deng, Ruining, et al.
Veröffentlicht: (2023)

HeteroRAG: A Heterogeneous Retrieval-Augmented Generation Framework for Medical Vision Language Tasks
von: Chen, Zhe, et al.
Veröffentlicht: (2025)

The Distracting Effect: Understanding Irrelevant Passages in RAG
von: Amiraz, Chen, et al.
Veröffentlicht: (2025)

Quantifying reliance on external information over parametric knowledge during Retrieval Augmented Generation (RAG) using mechanistic analysis
von: Ghosh, Reshmi, et al.
Veröffentlicht: (2024)

DuetRAG: Collaborative Retrieval-Augmented Generation
von: Jiao, Dian, et al.
Veröffentlicht: (2024)

BiomedRAG: A Retrieval Augmented Large Language Model for Biomedicine
von: Li, Mingchen, et al.
Veröffentlicht: (2024)

TrustRAG: Enhancing Robustness and Trustworthiness in Retrieval-Augmented Generation
von: Zhou, Huichi, et al.
Veröffentlicht: (2025)

MCTS-RAG: Enhancing Retrieval-Augmented Generation with Monte Carlo Tree Search
von: Hu, Yunhai, et al.
Veröffentlicht: (2025)

Make LVLMs Focus: Context-Aware Attention Modulation for Better Multimodal In-Context Learning
von: Li, Yanshu, et al.
Veröffentlicht: (2025)

Language Bias in LVLMs: From In-Depth Analysis to Simple and Effective Mitigation
von: Chen, Yangneng, et al.
Veröffentlicht: (2026)

Zero-RAG: Towards Retrieval-Augmented Generation with Zero Redundant Knowledge
von: Luo, Qi, et al.
Veröffentlicht: (2025)

BEE-RAG: Balanced Entropy Engineering for Retrieval-Augmented Generation
von: Wang, Yuhao, et al.
Veröffentlicht: (2025)

Enhancing Clinical Multiple-Choice Questions Benchmarks with Knowledge Graph Guided Distractor Generation
von: Yang, Running, et al.
Veröffentlicht: (2025)

When Alignment Hurts: Decoupling Representational Spaces in Multilingual Models
von: Elshabrawy, Ahmed, et al.
Veröffentlicht: (2025)

EasyRAG: Efficient Retrieval-Augmented Generation Framework for Automated Network Operations
von: Feng, Zhangchi, et al.
Veröffentlicht: (2024)

Steering LVLMs via Sparse Autoencoder for Hallucination Mitigation
von: Hua, Zhenglin, et al.
Veröffentlicht: (2025)

PrefRAG: Preference-Driven Multi-Source Retrieval Augmented Generation
von: Zhao, Qingfei, et al.
Veröffentlicht: (2024)

Unraveling and Mitigating Retriever Inconsistencies in Retrieval-Augmented Large Language Models
von: Li, Mingda, et al.
Veröffentlicht: (2024)

RAGViz: Diagnose and Visualize Retrieval-Augmented Generation
von: Wang, Tevin, et al.
Veröffentlicht: (2024)

HELPD: Mitigating Hallucination of LVLMs by Hierarchical Feedback Learning with Vision-enhanced Penalty Decoding
von: Yuan, Fan, et al.
Veröffentlicht: (2024)

RAG-Star: Enhancing Deliberative Reasoning with Retrieval Augmented Verification and Refinement
von: Jiang, Jinhao, et al.
Veröffentlicht: (2024)

When Machine Unlearning Meets Retrieval-Augmented Generation (RAG): Keep Secret or Forget Knowledge?
von: Wang, Shang, et al.
Veröffentlicht: (2024)

ConfRAG: Confidence-Guided Retrieval-Augmenting Generation
von: Huang, Yin, et al.
Veröffentlicht: (2025)

ImpRAG: Retrieval-Augmented Generation with Implicit Queries
von: Zhang, Wenzheng, et al.
Veröffentlicht: (2025)