Efficient Adaptation of Pre-trained Vision Transformer via Householder Transformation
Fuente:
arXiv
Salvato in:
| Autori principali: | Dong, Wei, Sun, Yuan, Yang, Yiting, Zhang, Xing, Lin, Zhijun, Yan, Qingsen, Zhang, Haokui, Wang, Peng, Yang, Yang, Shen, Hengtao |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Efficient Adaptation of Pre-trained Vision Transformer underpinned by Approximately Orthogonal Fine-Tuning Strategy
di: Yang, Yiting, et al.
Pubblicazione: (2025)
di: Yang, Yiting, et al.
Pubblicazione: (2025)
Low-Rank Rescaled Vision Transformer Fine-Tuning: A Residual Design Approach
di: Dong, Wei, et al.
Pubblicazione: (2024)
di: Dong, Wei, et al.
Pubblicazione: (2024)
Efficient Adaptation of Large Vision Transformer via Adapter Re-Composing
di: Dong, Wei, et al.
Pubblicazione: (2023)
di: Dong, Wei, et al.
Pubblicazione: (2023)
TRIO: Token Reduction via Inference-Objective Guidance for Efficient Vision-Language Models
di: Zhang, Haokui, et al.
Pubblicazione: (2026)
di: Zhang, Haokui, et al.
Pubblicazione: (2026)
Split Adaptation for Pre-trained Vision Transformers
di: Wang, Lixu, et al.
Pubblicazione: (2025)
di: Wang, Lixu, et al.
Pubblicazione: (2025)
Centroid-centered Modeling for Efficient Vision Transformer Pre-training
di: Yan, Xin, et al.
Pubblicazione: (2023)
di: Yan, Xin, et al.
Pubblicazione: (2023)
TG-LLaVA: Text Guided LLaVA via Learnable Latent Embeddings
di: Yan, Dawei, et al.
Pubblicazione: (2024)
di: Yan, Dawei, et al.
Pubblicazione: (2024)
EA-ViT: Efficient Adaptation for Elastic Vision Transformer
di: Zhu, Chen, et al.
Pubblicazione: (2025)
di: Zhu, Chen, et al.
Pubblicazione: (2025)
Text-Visual Semantic Constrained AI-Generated Image Quality Assessment
di: Li, Qiang, et al.
Pubblicazione: (2025)
di: Li, Qiang, et al.
Pubblicazione: (2025)
VELVET-Med: Vision and Efficient Language Pre-training for Volumetric Imaging Tasks in Medicine
di: Zhang, Ziyang, et al.
Pubblicazione: (2025)
di: Zhang, Ziyang, et al.
Pubblicazione: (2025)
Brain-Inspired Stepwise Patch Merging for Vision Transformers
di: Yu, Yonghao, et al.
Pubblicazione: (2024)
di: Yu, Yonghao, et al.
Pubblicazione: (2024)
Generative Pre-trained Autoregressive Diffusion Transformer
di: Zhang, Yuan, et al.
Pubblicazione: (2025)
di: Zhang, Yuan, et al.
Pubblicazione: (2025)
REO-VLM: Transforming VLM to Meet Regression Challenges in Earth Observation
di: Xue, Xizhe, et al.
Pubblicazione: (2024)
di: Xue, Xizhe, et al.
Pubblicazione: (2024)
Not All Prompts Are Secure: A Switchable Backdoor Attack Against Pre-trained Vision Transformers
di: Yang, Sheng, et al.
Pubblicazione: (2024)
di: Yang, Sheng, et al.
Pubblicazione: (2024)
DualTSR: Unified Dual-Diffusion Transformer for Scene Text Image Super-Resolution
di: Niu, Axi, et al.
Pubblicazione: (2026)
di: Niu, Axi, et al.
Pubblicazione: (2026)
Serial Low-rank Adaptation of Vision Transformer
di: Zhong, Houqiang, et al.
Pubblicazione: (2025)
di: Zhong, Houqiang, et al.
Pubblicazione: (2025)
ConSept: Continual Semantic Segmentation via Adapter-based Vision Transformer
di: Dong, Bowen, et al.
Pubblicazione: (2024)
di: Dong, Bowen, et al.
Pubblicazione: (2024)
Pre-training Vision Transformers with Formula-driven Supervised Learning
di: Kataoka, Hirokatsu, et al.
Pubblicazione: (2022)
di: Kataoka, Hirokatsu, et al.
Pubblicazione: (2022)
Rethinking Practical and Efficient Quantization Calibration for Vision-Language Models
di: Shang, Zhenhao, et al.
Pubblicazione: (2026)
di: Shang, Zhenhao, et al.
Pubblicazione: (2026)
Comment-aided Video-Language Alignment via Contrastive Pre-training for Short-form Video Humor Detection
di: Liu, Yang, et al.
Pubblicazione: (2024)
di: Liu, Yang, et al.
Pubblicazione: (2024)
Collaborative Low-Rank Adaptation for Pre-Trained Vision Transformers
di: Liu, Zheng, et al.
Pubblicazione: (2025)
di: Liu, Zheng, et al.
Pubblicazione: (2025)
Compressing then Matching: An Efficient Pre-training Paradigm for Multimodal Embedding
di: Li, Da, et al.
Pubblicazione: (2025)
di: Li, Da, et al.
Pubblicazione: (2025)
Diffusion Models as Optimizers for Efficient Planning in Offline RL
di: Huang, Renming, et al.
Pubblicazione: (2024)
di: Huang, Renming, et al.
Pubblicazione: (2024)
Bridging The Gap between Low-rank and Orthogonal Adaptation via Householder Reflection Adaptation
di: Yuan, Shen, et al.
Pubblicazione: (2024)
di: Yuan, Shen, et al.
Pubblicazione: (2024)
EUDA: An Efficient Unsupervised Domain Adaptation via Self-Supervised Vision Transformer
di: Abedi, Ali, et al.
Pubblicazione: (2024)
di: Abedi, Ali, et al.
Pubblicazione: (2024)
Anatomical Structure-Guided Medical Vision-Language Pre-training
di: Li, Qingqiu, et al.
Pubblicazione: (2024)
di: Li, Qingqiu, et al.
Pubblicazione: (2024)
You Only Need One Color Space: An Efficient Network for Low-light Image Enhancement
di: Yan, Qingsen, et al.
Pubblicazione: (2024)
di: Yan, Qingsen, et al.
Pubblicazione: (2024)
GQKVA: Efficient Pre-training of Transformers by Grouping Queries, Keys, and Values
di: Javadi, Farnoosh, et al.
Pubblicazione: (2023)
di: Javadi, Farnoosh, et al.
Pubblicazione: (2023)
Spiking Vision Transformer with Saccadic Attention
di: Wang, Shuai, et al.
Pubblicazione: (2025)
di: Wang, Shuai, et al.
Pubblicazione: (2025)
An Empirical Study of Parameter Efficient Fine-tuning on Vision-Language Pre-train Model
di: Tian, Yuxin, et al.
Pubblicazione: (2024)
di: Tian, Yuxin, et al.
Pubblicazione: (2024)
Efficient Token Compression for Vision Transformer with Spatial Information Preserved
di: Mao, Junzhu, et al.
Pubblicazione: (2025)
di: Mao, Junzhu, et al.
Pubblicazione: (2025)
Generalized Face Forgery Detection via Adaptive Learning for Pre-trained Vision Transformer
di: Luo, Anwei, et al.
Pubblicazione: (2023)
di: Luo, Anwei, et al.
Pubblicazione: (2023)
Efficient and Effective Universal Adversarial Attack against Vision-Language Pre-training Models
di: Yang, Fan, et al.
Pubblicazione: (2024)
di: Yang, Fan, et al.
Pubblicazione: (2024)
Pre-trained Vision and Language Transformers Are Few-Shot Incremental Learners
di: Park, Keon-Hee, et al.
Pubblicazione: (2024)
di: Park, Keon-Hee, et al.
Pubblicazione: (2024)
ActDistill: General Action-Guided Self-Derived Distillation for Efficient Vision-Language-Action Models
di: Ye, Wencheng, et al.
Pubblicazione: (2025)
di: Ye, Wencheng, et al.
Pubblicazione: (2025)
EVE: Efficient Vision-Language Pre-training with Masked Prediction and Modality-Aware MoE
di: Chen, Junyi, et al.
Pubblicazione: (2023)
di: Chen, Junyi, et al.
Pubblicazione: (2023)
Vision Transformer-based Adversarial Domain Adaptation
di: Li, Yahan, et al.
Pubblicazione: (2024)
di: Li, Yahan, et al.
Pubblicazione: (2024)
Leveraging Registers in Vision Transformers for Robust Adaptation
di: Yellapragada, Srikar, et al.
Pubblicazione: (2025)
di: Yellapragada, Srikar, et al.
Pubblicazione: (2025)
Boosting HDR Image Reconstruction via Semantic Knowledge Transfer
di: Hu, Tao, et al.
Pubblicazione: (2025)
di: Hu, Tao, et al.
Pubblicazione: (2025)
Towards Seamless Adaptation of Pre-trained Models for Visual Place Recognition
di: Lu, Feng, et al.
Pubblicazione: (2024)
di: Lu, Feng, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Efficient Adaptation of Pre-trained Vision Transformer underpinned by Approximately Orthogonal Fine-Tuning Strategy
di: Yang, Yiting, et al.
Pubblicazione: (2025) -
Low-Rank Rescaled Vision Transformer Fine-Tuning: A Residual Design Approach
di: Dong, Wei, et al.
Pubblicazione: (2024) -
Efficient Adaptation of Large Vision Transformer via Adapter Re-Composing
di: Dong, Wei, et al.
Pubblicazione: (2023) -
TRIO: Token Reduction via Inference-Objective Guidance for Efficient Vision-Language Models
di: Zhang, Haokui, et al.
Pubblicazione: (2026) -
Split Adaptation for Pre-trained Vision Transformers
di: Wang, Lixu, et al.
Pubblicazione: (2025)