Buchumschlag

Optimizing Vision Transformers with Data-Free Knowledge Transfer

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Habib, Gousia, Singh, Damandeep, Malik, Ishfaq Ahmad, Lall, Brejesh
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Optimizing Vision Transformers With Data‐Free Knowledge Transfer
von: Gousia Habib, et al.
Veröffentlicht: (2026)

LIB-KD: Teaching Inductive Bias for Efficient Vision Transformer Distillation and Compression
von: Habib, Gousia, et al.
Veröffentlicht: (2023)

Knowledge Distillation in Vision Transformers: A Critical Review
von: Habib, Gousia, et al.
Veröffentlicht: (2023)

A Comprehensive Review of Knowledge Distillation in Computer Vision
von: Habib, Gousia, et al.
Veröffentlicht: (2024)

Exploring the Efficacy of Group-Normalization in Deep Learning Models for Alzheimer's Disease Classification
von: Habib, Gousia, et al.
Veröffentlicht: (2024)

Harnessing The Power of Attention For Patch-Based Biomedical Image Classification
von: Habib, Gousia, et al.
Veröffentlicht: (2024)

CFL-SparseMed: Communication-Efficient Federated Learning for Medical Imaging with Top-k Sparse Updates
von: Habib, Gousia, et al.
Veröffentlicht: (2025)

Leveraging band diversity for feature selection in EO data
von: Hussain, Sadia, et al.
Veröffentlicht: (2025)

GraVITON: Graph based garment warping with attention guided inversion for Virtual-tryon
von: Pathak, Sanhita, et al.
Veröffentlicht: (2024)

DiffSTR: Controlled Diffusion Models for Scene Text Removal
von: Pathak, Sanhita, et al.
Veröffentlicht: (2024)

Single Stage Warped Cloth Learning and Semantic-Contextual Attention Feature Fusion for Virtual TryOn
von: Pathak, Sanhita, et al.
Veröffentlicht: (2023)

Stride-Net: Fairness-Aware Disentangled Representation Learning for Chest X-Ray Diagnosis
von: Rashid, Darakshan, et al.
Veröffentlicht: (2026)

Unified Multi-Dataset Training for TBPS
von: Chatterjee, Nilanjana, et al.
Veröffentlicht: (2026)

Dual Thinking and Logical Processing -- Are Multi-modal Large Language Models Closing the Gap with Human Vision ?
von: Dayanandan, Kailas, et al.
Veröffentlicht: (2024)

Continual Segmentation under Joint Nonstationarity
von: Pandey, Prashant, et al.
Veröffentlicht: (2026)

A Comprehensive Survey on Synthetic Infrared Image synthesis
von: Upadhyay, Avinash, et al.
Veröffentlicht: (2024)

Semantic Alignment and Reinforcement for Data-Free Quantization of Vision Transformers
von: Zhong, Yunshan, et al.
Veröffentlicht: (2024)

CAE-DFKD: Bridging the Transferability Gap in Data-Free Knowledge Distillation
von: Zhang, Zherui, et al.
Veröffentlicht: (2025)

Computer Vision-Based Early Detection of Container Loss at Sea
von: Lall, Vishakha, et al.
Veröffentlicht: (2026)

Compressing Vision Transformers in Geospatial Transfer Learning with Manifold-Constrained Optimization
von: Snyder, Thomas, et al.
Veröffentlicht: (2026)

Hybrid Data-Free Knowledge Distillation
von: Tang, Jialiang, et al.
Veröffentlicht: (2024)

ToVE: Efficient Vision-Language Learning via Knowledge Transfer from Vision Experts
von: Wu, Yuanchen, et al.
Veröffentlicht: (2025)

Optimization-Free Style Transfer for 3D Gaussian Splats
von: Sablon, Raphael Du, et al.
Veröffentlicht: (2025)

DeNAS-ViT: Data Efficient NAS-Optimized Vision Transformer for Ultrasound Image Segmentation
von: Chen, Renqi, et al.
Veröffentlicht: (2024)

KPL: Training-Free Medical Knowledge Mining of Vision-Language Models
von: Liu, Jiaxiang, et al.
Veröffentlicht: (2025)

HAViT: Historical Attention Vision Transformer
von: Banik, Swarnendu, et al.
Veröffentlicht: (2026)

Source-Free Cross-Modal Knowledge Transfer by Unleashing the Potential of Task-Irrelevant Data
von: Zhu, Jinjing, et al.
Veröffentlicht: (2024)

Garbage Vulnerable Point Monitoring using IoT and Computer Vision
von: Kumar, R., et al.
Veröffentlicht: (2025)

Convolutional Initialization for Data-Efficient Vision Transformers
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2024)

Token Transforming: A Unified and Training-Free Token Compression Framework for Vision Transformer Acceleration
von: Zeng, Fanhu, et al.
Veröffentlicht: (2025)

Relation-Guided Adversarial Learning for Data-free Knowledge Transfer
von: Liang, Yingping, et al.
Veröffentlicht: (2024)

Sampling to Distill: Knowledge Transfer from Open-World Data
von: Wang, Yuzheng, et al.
Veröffentlicht: (2023)

DFQ-ViT: Data-Free Quantization for Vision Transformers without Fine-tuning
von: Tong, Yujia, et al.
Veröffentlicht: (2025)

Biasing & Debiasing based Approach Towards Fair Knowledge Transfer for Equitable Skin Analysis
von: Pundhir, Anshul, et al.
Veröffentlicht: (2024)

Attention Transfer Is Not Universally Effective for Vision Transformers
von: Qin, Huaiyuan, et al.
Veröffentlicht: (2026)

Federated Vision Transformer with Adaptive Focal Loss for Medical Image Classification
von: Zhao, Xinyuan, et al.
Veröffentlicht: (2026)

Transformer-Driven Active Transfer Learning for Cross-Hyperspectral Image Classification
von: Ahmad, Muhammad, et al.
Veröffentlicht: (2024)

B-cos Alignment for Inherently Interpretable CNNs and Vision Transformers
von: Böhle, Moritz, et al.
Veröffentlicht: (2023)

StereoVGGT: A Training-Free Visual Geometry Transformer for Stereo Vision
von: Chen, Ziyang, et al.
Veröffentlicht: (2026)

Exploring Data-Free LoRA Transferability for Video Diffusion Models
von: Wang, Yuchen, et al.
Veröffentlicht: (2026)