Where Do Tokens Go? Understanding Pruning Behaviors in STEP at High Resolutions
Fuente:
arXiv
Salvato in:
| Autori principali: | Szczepanski, Michal, Poreba, Martyna, Haroun, Karim |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Beyond Attention Scores: SVD-Based Vision Token Pruning for Efficient Vision-Language Models
di: Apedo, Yvon, et al.
Pubblicazione: (2026)
di: Apedo, Yvon, et al.
Pubblicazione: (2026)
I-Segmenter: Integer-Only Vision Transformer for Efficient Semantic Segmentation
di: Sassoon, Jordan, et al.
Pubblicazione: (2025)
di: Sassoon, Jordan, et al.
Pubblicazione: (2025)
Token-Space Mask Prediction for Efficient Vision Transformer Segmentation
di: Galagain, Calvin, et al.
Pubblicazione: (2026)
di: Galagain, Calvin, et al.
Pubblicazione: (2026)
Spatio-Temporal Token Pruning for Efficient High-Resolution GUI Agents
di: Xu, Zhou, et al.
Pubblicazione: (2026)
di: Xu, Zhou, et al.
Pubblicazione: (2026)
Exploiting Information Redundancy in Attention Maps for Extreme Quantization of Vision Transformers
di: Maisonnave, Lucas, et al.
Pubblicazione: (2025)
di: Maisonnave, Lucas, et al.
Pubblicazione: (2025)
StreamingAssistant: Efficient Visual Token Pruning for Accelerating Online Video Understanding
di: Jin, Xinqi, et al.
Pubblicazione: (2025)
di: Jin, Xinqi, et al.
Pubblicazione: (2025)
How Many Visual Tokens Do Multimodal Language Models Need? Scaling Visual Token Pruning with F^3A
di: Huang, YiJie, et al.
Pubblicazione: (2026)
di: Huang, YiJie, et al.
Pubblicazione: (2026)
Where Do You Go? Pedestrian Trajectory Prediction using Scene Features
di: Rezaei, Mohammad Ali, et al.
Pubblicazione: (2025)
di: Rezaei, Mohammad Ali, et al.
Pubblicazione: (2025)
ToDo: Token Downsampling for Efficient Generation of High-Resolution Images
di: Smith, Ethan, et al.
Pubblicazione: (2024)
di: Smith, Ethan, et al.
Pubblicazione: (2024)
Look Where It Matters: High-Resolution Crops Retrieval for Efficient VLMs
di: Shabtay, Nimrod, et al.
Pubblicazione: (2026)
di: Shabtay, Nimrod, et al.
Pubblicazione: (2026)
EgoPrune: Efficient Token Pruning for Egomotion Video Reasoning in Embodied Agent
di: Li, Jiaao, et al.
Pubblicazione: (2025)
di: Li, Jiaao, et al.
Pubblicazione: (2025)
TransPrune: Token Transition Pruning for Efficient Large Vision-Language Model
di: Li, Ao, et al.
Pubblicazione: (2025)
di: Li, Ao, et al.
Pubblicazione: (2025)
IWP: Token Pruning as Implicit Weight Pruning in Large Vision Language Models
di: Lee, Dong-Jae, et al.
Pubblicazione: (2026)
di: Lee, Dong-Jae, et al.
Pubblicazione: (2026)
Semantic-Geometric Dual Compression: Training-Free Visual Token Reduction for Ultra-High-Resolution Remote Sensing Understanding
di: Li, Yueying, et al.
Pubblicazione: (2026)
di: Li, Yueying, et al.
Pubblicazione: (2026)
TokenTrim: Inference-Time Token Pruning for Autoregressive Long Video Generation
di: Shaulov, Ariel, et al.
Pubblicazione: (2026)
di: Shaulov, Ariel, et al.
Pubblicazione: (2026)
What Kind of Visual Tokens Do We Need? Training-free Visual Token Pruning for Multi-modal Large Language Models from the Perspective of Graph
di: Jiang, Yutao, et al.
Pubblicazione: (2025)
di: Jiang, Yutao, et al.
Pubblicazione: (2025)
Index-Preserving Lightweight Token Pruning for Efficient Document Understanding in Vision-Language Models
di: Son, Jaemin, et al.
Pubblicazione: (2025)
di: Son, Jaemin, et al.
Pubblicazione: (2025)
OccamToken: Efficient VLM Inference with Training-Free and Budget-Adaptive Token Pruning
di: Li, Geng, et al.
Pubblicazione: (2026)
di: Li, Geng, et al.
Pubblicazione: (2026)
Grounding-Aware Token Pruning: Recovering from Drastic Performance Drops in Visual Grounding Caused by Pruning
di: Chien, Tzu-Chun, et al.
Pubblicazione: (2025)
di: Chien, Tzu-Chun, et al.
Pubblicazione: (2025)
ST-Prune: Training-Free Spatio-Temporal Token Pruning for Vision-Language Models in Autonomous Driving
di: Sha, Lin, et al.
Pubblicazione: (2026)
di: Sha, Lin, et al.
Pubblicazione: (2026)
MedPruner: Training-Free Hierarchical Token Pruning for Efficient 3D Medical Image Understanding in Vision-Language Models
di: Liu, Shengyuan, et al.
Pubblicazione: (2026)
di: Liu, Shengyuan, et al.
Pubblicazione: (2026)
Object-Centric Vision Token Pruning for Vision Language Models
di: Li, Guangyuan, et al.
Pubblicazione: (2025)
di: Li, Guangyuan, et al.
Pubblicazione: (2025)
IDPruner: Harmonizing Importance and Diversity in Visual Token Pruning for MLLMs
di: Tan, Yifan, et al.
Pubblicazione: (2026)
di: Tan, Yifan, et al.
Pubblicazione: (2026)
Beyond Attention or Similarity: Maximizing Conditional Diversity for Token Pruning in MLLMs
di: Zhang, Qizhe, et al.
Pubblicazione: (2025)
di: Zhang, Qizhe, et al.
Pubblicazione: (2025)
Token Pruning using a Lightweight Background Aware Vision Transformer
di: Sah, Sudhakar, et al.
Pubblicazione: (2024)
di: Sah, Sudhakar, et al.
Pubblicazione: (2024)
Data Pruning Can Do More: A Comprehensive Data Pruning Approach for Object Re-identification
di: Yang, Zi, et al.
Pubblicazione: (2024)
di: Yang, Zi, et al.
Pubblicazione: (2024)
TokenFlow: Unified Image Tokenizer for Multimodal Understanding and Generation
di: Qu, Liao, et al.
Pubblicazione: (2024)
di: Qu, Liao, et al.
Pubblicazione: (2024)
Balanced Token Pruning: Accelerating Vision Language Models Beyond Local Optimization
di: Li, Kaiyuan, et al.
Pubblicazione: (2025)
di: Li, Kaiyuan, et al.
Pubblicazione: (2025)
ZSPAPrune: Zero-Shot Prompt-Aware Token Pruning for Vision-Language Models
di: Zhang, Pu, et al.
Pubblicazione: (2025)
di: Zhang, Pu, et al.
Pubblicazione: (2025)
Bridging the Semantic-Action Gap in Visual Token Pruning for Efficient VLA Inference
di: Liu, Ziyan, et al.
Pubblicazione: (2025)
di: Liu, Ziyan, et al.
Pubblicazione: (2025)
AdaTP: Attention-Debiased Token Pruning for Video Large Language Models
di: Sun, Fengyuan, et al.
Pubblicazione: (2025)
di: Sun, Fengyuan, et al.
Pubblicazione: (2025)
QAPruner: Quantization-Aware Vision Token Pruning for Multimodal Large Language Models
di: Wang, Xinhao, et al.
Pubblicazione: (2026)
di: Wang, Xinhao, et al.
Pubblicazione: (2026)
Energy-Driven Adaptive Visual Token Pruning for Efficient Vision-Language Models
di: He, Jialuo, et al.
Pubblicazione: (2026)
di: He, Jialuo, et al.
Pubblicazione: (2026)
HiRED: Attention-Guided Token Dropping for Efficient Inference of High-Resolution Vision-Language Models
di: Arif, Kazi Hasan Ibn, et al.
Pubblicazione: (2024)
di: Arif, Kazi Hasan Ibn, et al.
Pubblicazione: (2024)
QuarterMap: Efficient Post-Training Token Pruning for Visual State Space Models
di: Chi, Tien-Yu, et al.
Pubblicazione: (2025)
di: Chi, Tien-Yu, et al.
Pubblicazione: (2025)
Beyond Text-Visual Attention: Exploiting Visual Cues for Effective Token Pruning in VLMs
di: Zhang, Qizhe, et al.
Pubblicazione: (2024)
di: Zhang, Qizhe, et al.
Pubblicazione: (2024)
Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models
di: Ma, Jie, et al.
Pubblicazione: (2026)
di: Ma, Jie, et al.
Pubblicazione: (2026)
Keep What Audio Cannot Say: Context-Preserving Token Pruning for Omni-LLMs
di: Jung, Chaeyoung, et al.
Pubblicazione: (2026)
di: Jung, Chaeyoung, et al.
Pubblicazione: (2026)
ForestPrune: High-ratio Visual Token Compression for Video Multimodal Large Language Models via Spatial-Temporal Forest Modeling
di: Ju, Shaobo, et al.
Pubblicazione: (2026)
di: Ju, Shaobo, et al.
Pubblicazione: (2026)
DivPrune: Diversity-based Visual Token Pruning for Large Multimodal Models
di: Alvar, Saeed Ranjbar, et al.
Pubblicazione: (2025)
di: Alvar, Saeed Ranjbar, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Beyond Attention Scores: SVD-Based Vision Token Pruning for Efficient Vision-Language Models
di: Apedo, Yvon, et al.
Pubblicazione: (2026) -
I-Segmenter: Integer-Only Vision Transformer for Efficient Semantic Segmentation
di: Sassoon, Jordan, et al.
Pubblicazione: (2025) -
Token-Space Mask Prediction for Efficient Vision Transformer Segmentation
di: Galagain, Calvin, et al.
Pubblicazione: (2026) -
Spatio-Temporal Token Pruning for Efficient High-Resolution GUI Agents
di: Xu, Zhou, et al.
Pubblicazione: (2026) -
Exploiting Information Redundancy in Attention Maps for Extreme Quantization of Vision Transformers
di: Maisonnave, Lucas, et al.
Pubblicazione: (2025)