Beyond Attention Scores: SVD-Based Vision Token Pruning for Efficient Vision-Language Models
Fuente:
arXiv
Salvato in:
| Autori principali: | Apedo, Yvon, Poreba, Martyna, Szczepanski, Michal, Bouchafa, Samia |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Where Do Tokens Go? Understanding Pruning Behaviors in STEP at High Resolutions
di: Szczepanski, Michal, et al.
Pubblicazione: (2025)
di: Szczepanski, Michal, et al.
Pubblicazione: (2025)
I-Segmenter: Integer-Only Vision Transformer for Efficient Semantic Segmentation
di: Sassoon, Jordan, et al.
Pubblicazione: (2025)
di: Sassoon, Jordan, et al.
Pubblicazione: (2025)
Token-Space Mask Prediction for Efficient Vision Transformer Segmentation
di: Galagain, Calvin, et al.
Pubblicazione: (2026)
di: Galagain, Calvin, et al.
Pubblicazione: (2026)
TransPrune: Token Transition Pruning for Efficient Large Vision-Language Model
di: Li, Ao, et al.
Pubblicazione: (2025)
di: Li, Ao, et al.
Pubblicazione: (2025)
Object-Centric Vision Token Pruning for Vision Language Models
di: Li, Guangyuan, et al.
Pubblicazione: (2025)
di: Li, Guangyuan, et al.
Pubblicazione: (2025)
Balanced Token Pruning: Accelerating Vision Language Models Beyond Local Optimization
di: Li, Kaiyuan, et al.
Pubblicazione: (2025)
di: Li, Kaiyuan, et al.
Pubblicazione: (2025)
PLPHP: Per-Layer Per-Head Vision Token Pruning for Efficient Large Vision-Language Models
di: Meng, Yu, et al.
Pubblicazione: (2025)
di: Meng, Yu, et al.
Pubblicazione: (2025)
Energy-Driven Adaptive Visual Token Pruning for Efficient Vision-Language Models
di: He, Jialuo, et al.
Pubblicazione: (2026)
di: He, Jialuo, et al.
Pubblicazione: (2026)
IWP: Token Pruning as Implicit Weight Pruning in Large Vision Language Models
di: Lee, Dong-Jae, et al.
Pubblicazione: (2026)
di: Lee, Dong-Jae, et al.
Pubblicazione: (2026)
Index-Preserving Lightweight Token Pruning for Efficient Document Understanding in Vision-Language Models
di: Son, Jaemin, et al.
Pubblicazione: (2025)
di: Son, Jaemin, et al.
Pubblicazione: (2025)
QAPruner: Quantization-Aware Vision Token Pruning for Multimodal Large Language Models
di: Wang, Xinhao, et al.
Pubblicazione: (2026)
di: Wang, Xinhao, et al.
Pubblicazione: (2026)
ZSPAPrune: Zero-Shot Prompt-Aware Token Pruning for Vision-Language Models
di: Zhang, Pu, et al.
Pubblicazione: (2025)
di: Zhang, Pu, et al.
Pubblicazione: (2025)
ST-Prune: Training-Free Spatio-Temporal Token Pruning for Vision-Language Models in Autonomous Driving
di: Sha, Lin, et al.
Pubblicazione: (2026)
di: Sha, Lin, et al.
Pubblicazione: (2026)
Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models
di: Ma, Jie, et al.
Pubblicazione: (2026)
di: Ma, Jie, et al.
Pubblicazione: (2026)
Beyond Recognition: Evaluating Visual Perspective Taking in Vision Language Models
di: Góral, Gracjan, et al.
Pubblicazione: (2025)
di: Góral, Gracjan, et al.
Pubblicazione: (2025)
FoPru: Focal Pruning for Efficient Large Vision-Language Models
di: Jiang, Lei, et al.
Pubblicazione: (2024)
di: Jiang, Lei, et al.
Pubblicazione: (2024)
HiRED: Attention-Guided Token Dropping for Efficient Inference of High-Resolution Vision-Language Models
di: Arif, Kazi Hasan Ibn, et al.
Pubblicazione: (2024)
di: Arif, Kazi Hasan Ibn, et al.
Pubblicazione: (2024)
MedPruner: Training-Free Hierarchical Token Pruning for Efficient 3D Medical Image Understanding in Vision-Language Models
di: Liu, Shengyuan, et al.
Pubblicazione: (2026)
di: Liu, Shengyuan, et al.
Pubblicazione: (2026)
Beyond Attention or Similarity: Maximizing Conditional Diversity for Token Pruning in MLLMs
di: Zhang, Qizhe, et al.
Pubblicazione: (2025)
di: Zhang, Qizhe, et al.
Pubblicazione: (2025)
Rotation-Aligned Key Channel Pruning for Efficient Vision-Language Model Inference
di: Kang, Beomseok, et al.
Pubblicazione: (2026)
di: Kang, Beomseok, et al.
Pubblicazione: (2026)
GRIP-VLM: Group-Relative Importance Pruning for Efficient Vision-Language Models
di: Huang, Mingzhe, et al.
Pubblicazione: (2026)
di: Huang, Mingzhe, et al.
Pubblicazione: (2026)
Exploring Token Pruning in Vision State Space Models
di: Zhan, Zheng, et al.
Pubblicazione: (2024)
di: Zhan, Zheng, et al.
Pubblicazione: (2024)
PAS : Prelim Attention Score for Detecting Object Hallucinations in Large Vision--Language Models
di: Hoang-Xuan, Nhat, et al.
Pubblicazione: (2025)
di: Hoang-Xuan, Nhat, et al.
Pubblicazione: (2025)
HiPrune: Hierarchical Attention for Efficient Token Pruning in Vision-Language Models
di: Liu, Jizhihui, et al.
Pubblicazione: (2025)
di: Liu, Jizhihui, et al.
Pubblicazione: (2025)
AdaTP: Attention-Debiased Token Pruning for Video Large Language Models
di: Sun, Fengyuan, et al.
Pubblicazione: (2025)
di: Sun, Fengyuan, et al.
Pubblicazione: (2025)
Token Pruning using a Lightweight Background Aware Vision Transformer
di: Sah, Sudhakar, et al.
Pubblicazione: (2024)
di: Sah, Sudhakar, et al.
Pubblicazione: (2024)
Vision Token Reduction via Attention-Driven Self-Compression for Efficient Multimodal Large Language Models
di: Deniz, Omer Faruk, et al.
Pubblicazione: (2026)
di: Deniz, Omer Faruk, et al.
Pubblicazione: (2026)
Cross-Self KV Cache Pruning for Efficient Vision-Language Inference
di: Pei, Xiaohuan, et al.
Pubblicazione: (2024)
di: Pei, Xiaohuan, et al.
Pubblicazione: (2024)
ZipVL: Efficient Large Vision-Language Models with Dynamic Token Sparsification
di: He, Yefei, et al.
Pubblicazione: (2024)
di: He, Yefei, et al.
Pubblicazione: (2024)
HiPP-Prune: Hierarchical Preference-Conditioned Structured Pruning for Vision-Language Models
di: Bai, Lincen, et al.
Pubblicazione: (2026)
di: Bai, Lincen, et al.
Pubblicazione: (2026)
TopV: Compatible Token Pruning with Inference Time Optimization for Fast and Low-Memory Multimodal Vision Language Model
di: Yang, Cheng, et al.
Pubblicazione: (2025)
di: Yang, Cheng, et al.
Pubblicazione: (2025)
Beyond Text-Visual Attention: Exploiting Visual Cues for Effective Token Pruning in VLMs
di: Zhang, Qizhe, et al.
Pubblicazione: (2024)
di: Zhang, Qizhe, et al.
Pubblicazione: (2024)
CoViPAL: Layer-wise Contextualized Visual Token Pruning for Large Vision-Language Models
di: Tang, Zicong, et al.
Pubblicazione: (2025)
di: Tang, Zicong, et al.
Pubblicazione: (2025)
HybridToken-VLM: Hybrid Token Compression for Vision-Language Models
di: Zhang, Jusheng, et al.
Pubblicazione: (2025)
di: Zhang, Jusheng, et al.
Pubblicazione: (2025)
When Large Vision-Language Model Meets Large Remote Sensing Imagery: Coarse-to-Fine Text-Guided Token Pruning
di: Luo, Junwei, et al.
Pubblicazione: (2025)
di: Luo, Junwei, et al.
Pubblicazione: (2025)
VisPCO: Visual Token Pruning Configuration Optimization via Budget-Aware Pareto-Frontier Learning for Vision-Language Models
di: Ji, Huawei, et al.
Pubblicazione: (2026)
di: Ji, Huawei, et al.
Pubblicazione: (2026)
MoPE-CLIP: Structured Pruning for Efficient Vision-Language Models with Module-wise Pruning Error Metric
di: Lin, Haokun, et al.
Pubblicazione: (2024)
di: Lin, Haokun, et al.
Pubblicazione: (2024)
Rethinking Token Reduction for Large Vision-Language Models
di: Wang, Yi, et al.
Pubblicazione: (2026)
di: Wang, Yi, et al.
Pubblicazione: (2026)
Efficient Vision-Language Models by Summarizing Visual Tokens into Compact Registers
di: Wen, Yuxin, et al.
Pubblicazione: (2024)
di: Wen, Yuxin, et al.
Pubblicazione: (2024)
Walk and Read Less: Improving the Efficiency of Vision-and-Language Navigation via Tuning-Free Multimodal Token Pruning
di: Qin, Wenda, et al.
Pubblicazione: (2025)
di: Qin, Wenda, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Where Do Tokens Go? Understanding Pruning Behaviors in STEP at High Resolutions
di: Szczepanski, Michal, et al.
Pubblicazione: (2025) -
I-Segmenter: Integer-Only Vision Transformer for Efficient Semantic Segmentation
di: Sassoon, Jordan, et al.
Pubblicazione: (2025) -
Token-Space Mask Prediction for Efficient Vision Transformer Segmentation
di: Galagain, Calvin, et al.
Pubblicazione: (2026) -
TransPrune: Token Transition Pruning for Efficient Large Vision-Language Model
di: Li, Ao, et al.
Pubblicazione: (2025) -
Object-Centric Vision Token Pruning for Vision Language Models
di: Li, Guangyuan, et al.
Pubblicazione: (2025)