Buchumschlag

Investigating The Functional Roles of Attention Heads in Vision Language Models: Evidence for Reasoning Modules

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Jiang, Yanbei, Ma, Xueqi, Liu, Shu, Erfani, Sarah Monazam, Liu, Tongliang, Bailey, James, Lau, Jey Han, Ehinger, Krista A.
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Cognitive Mirrors: Exploring the Diverse Functional Roles of Attention Heads in LLM Reasoning
von: Ma, Xueqi, et al.
Veröffentlicht: (2025)

Reasoning Like Experts: Leveraging Multimodal Large Language Models for Drawing-based Psychoanalysis
von: Ma, Xueqi, et al.
Veröffentlicht: (2025)

Attention in Space: Functional Roles of VLM Heads for Spatial Reasoning
von: Ma, Xueqi, et al.
Veröffentlicht: (2026)

KALE: An Artwork Image Captioning System Augmented with Heterogeneous Graph
von: Jiang, Yanbei, et al.
Veröffentlicht: (2024)

PROPA: Toward Process-level Optimization in Visual Reasoning via Reinforcement Learning
von: Jiang, Yanbei, et al.
Veröffentlicht: (2025)

Beyond Perception: Evaluating Abstract Visual Reasoning through Multi-Stage Task
von: Jiang, Yanbei, et al.
Veröffentlicht: (2025)

Coarse-to-Fine Open-Set Graph Node Classification with Large Language Models
von: Ma, Xueqi, et al.
Veröffentlicht: (2025)

Unlearnable Examples For Time Series
von: Jiang, Yujing, et al.
Veröffentlicht: (2024)

End-to-End Anti-Backdoor Learning on Images and Time Series
von: Jiang, Yujing, et al.
Veröffentlicht: (2024)

Open-World Amodal Appearance Completion
von: Ao, Jiayang, et al.
Veröffentlicht: (2024)

Efficient Neural Implicit Representation for 3D Human Reconstruction
von: Huang, Zexu, et al.
Veröffentlicht: (2024)

Perceiving Longer Sequences With Bi-Directional Cross-Attention Transformers
von: Hiller, Markus, et al.
Veröffentlicht: (2024)

Generalized Planning for the Abstraction and Reasoning Corpus
von: Lei, Chao, et al.
Veröffentlicht: (2024)

Evaluating Evidence Attribution in Generated Fact Checking Explanations
von: Xing, Rui, et al.
Veröffentlicht: (2024)

LDReg: Local Dimensionality Regularized Self-Supervised Learning
von: Huang, Hanxun, et al.
Veröffentlicht: (2024)

Visual-Text Cross Alignment: Refining the Similarity Score in Vision-Language Models
von: Li, Jinhao, et al.
Veröffentlicht: (2024)

Understanding the Geospatial Reasoning Capabilities of LLMs: A Trajectory Recovery Perspective
von: Truong, Thinh Hung, et al.
Veröffentlicht: (2025)

Decomposed Opinion Summarization with Verified Aspect-Aware Modules
von: Li, Miao, et al.
Veröffentlicht: (2025)

Controlling Distributional Bias in Multi-Round LLM Generation via KL-Optimized Fine-Tuning
von: Jiang, Yanbei, et al.
Veröffentlicht: (2026)

From Reasoning to Generalization: Knowledge-Augmented LLMs for ARC Benchmark
von: Lei, Chao, et al.
Veröffentlicht: (2025)

Exploring Weak-to-Strong Generalization for CLIP-based Classification
von: Li, Jinhao, et al.
Veröffentlicht: (2025)

Sequential Amodal Segmentation via Cumulative Occlusion Learning
von: Ao, Jiayang, et al.
Veröffentlicht: (2024)

State-Based Disassembly Planning
von: Lei, Chao, et al.
Veröffentlicht: (2025)

Improving Denoising Diffusion Models via Simultaneous Estimation of Image and Noise
von: Zhang, Zhenkai, et al.
Veröffentlicht: (2023)

Factual Dialogue Summarization via Learning from Large Language Models
von: Zhu, Rongxin, et al.
Veröffentlicht: (2024)

CMA-R:Causal Mediation Analysis for Explaining Rumour Detection
von: Tian, Lin, et al.
Veröffentlicht: (2024)

MoDEM: Mixture of Domain Expert Models
von: Simonds, Toby, et al.
Veröffentlicht: (2024)

Interaction Matters: An Evaluation Framework for Interactive Dialogue Assessment on English Second Language Conversations
von: Gao, Rena, et al.
Veröffentlicht: (2024)

REL: Working out is all you need
von: Simonds, Toby, et al.
Veröffentlicht: (2024)

WET: Overcoming Paraphrasing Vulnerabilities in Embeddings-as-a-Service with Linear Transformation Watermarks
von: Shetty, Anudeex, et al.
Veröffentlicht: (2024)

Beyond Seen Data: Improving KBQA Generalization Through Schema-Guided Logical Form Generation
von: Gao, Shengxiang, et al.
Veröffentlicht: (2025)

A Sentiment Consolidation Framework for Meta-Review Generation
von: Li, Miao, et al.
Veröffentlicht: (2024)

Dimensionality-Aware Anomaly Detection in Learned Representations of Self-Supervised Speech Models
von: Arcos-Holzinger, Sandra, et al.
Veröffentlicht: (2026)

X-Transfer Attacks: Towards Super Transferable Adversarial Attacks on CLIP
von: Huang, Hanxun, et al.
Veröffentlicht: (2025)

Detecting Backdoor Samples in Contrastive Language Image Pretraining
von: Huang, Hanxun, et al.
Veröffentlicht: (2025)

GPSBench: Do Large Language Models Understand GPS Coordinates?
von: Truong, Thinh Hung, et al.
Veröffentlicht: (2026)

WHoW: A Cross-domain Approach for Analysing Conversation Moderation
von: Chen, Ming-Bin, et al.
Veröffentlicht: (2024)

Context Volume Drives Performance: Tackling Domain Shift in Extremely Low-Resource Translation via RAG
von: Setiawan, David Samuel, et al.
Veröffentlicht: (2026)

CIG: Measuring Conversational Information Gain in Deliberative Dialogues with Semantic Memory Dynamics
von: Chen, Ming-Bin, et al.
Veröffentlicht: (2026)

Planning-Driven Programming: A Large Language Model Programming Workflow
von: Lei, Chao, et al.
Veröffentlicht: (2024)