Buchumschlag

Switch-KD: Visual-Switch Knowledge Distillation for Vision-Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Sun, Haoyi, Wang, Xiaoxiao, Mao, Ning, Wang, Qian, Mu, Lifu, Zheng, Wen, Wei, Tao, Chen, Wei
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

PromptKD: Unsupervised Prompt Distillation for Vision-Language Models
von: Li, Zheng, et al.
Veröffentlicht: (2024)

Align-KD: Distilling Cross-Modal Alignment Knowledge for Mobile Vision-Language Model
von: Feng, Qianhan, et al.
Veröffentlicht: (2024)

CrossKD: Cross-Head Knowledge Distillation for Object Detection
von: Wang, Jiabao, et al.
Veröffentlicht: (2023)

TopKD: Top-scaled Knowledge Distillation
von: Wang, Qi, et al.
Veröffentlicht: (2025)

ComKD-CLIP: Comprehensive Knowledge Distillation for Contrastive Language-Image Pre-traning Model
von: Chen, Yifan, et al.
Veröffentlicht: (2024)

EM-KD: Distilling Efficient Multimodal Large Language Model with Unbalanced Vision Tokens
von: Feng, Ze, et al.
Veröffentlicht: (2025)

FreeKD: Knowledge Distillation via Semantic Frequency Prompt
von: Zhang, Yuan, et al.
Veröffentlicht: (2023)

MoVE-KD: Knowledge Distillation for VLMs with Mixture of Visual Encoders
von: Cao, Jiajun, et al.
Veröffentlicht: (2025)

CustomKD: Customizing Large Vision Foundation for Edge Model Improvement via Knowledge Distillation
von: Lee, Jungsoo, et al.
Veröffentlicht: (2025)

VLM-KD: Knowledge Distillation from VLM for Long-Tail Visual Recognition
von: Zhang, Zaiwei, et al.
Veröffentlicht: (2024)

KD-DETR: Knowledge Distillation for Detection Transformer with Consistent Distillation Points Sampling
von: Wang, Yu, et al.
Veröffentlicht: (2022)

EA-KD: Entropy-based Adaptive Knowledge Distillation
von: Su, Chi-Ping, et al.
Veröffentlicht: (2023)

Vision-Language-Vision Auto-Encoder: Scalable Knowledge Distillation from Diffusion Models
von: Zhang, Tiezheng, et al.
Veröffentlicht: (2025)

MoKD: Multi-Task Optimization for Knowledge Distillation
von: Hayder, Zeeshan, et al.
Veröffentlicht: (2025)

BD-KD: Balancing the Divergences for Online Knowledge Distillation
von: Amara, Ibtihel, et al.
Veröffentlicht: (2022)

GGS: Generalizable Gaussian Splatting for Lane Switching in Autonomous Driving
von: Han, Huasong, et al.
Veröffentlicht: (2024)

Visual-Advantage On-Policy Distillation for Vision-Language Models
von: Liu, Ruiqi, et al.
Veröffentlicht: (2026)

LLaVA-KD: A Framework of Distilling Multimodal Large Language Models
von: Cai, Yuxuan, et al.
Veröffentlicht: (2024)

DiffKD-DCIS: Predicting Upgrade of Ductal Carcinoma In Situ with Diffusion Augmentation and Knowledge Distillation
von: Li, Tao, et al.
Veröffentlicht: (2026)

ACAM-KD: Adaptive and Cooperative Attention Masking for Knowledge Distillation
von: Lan, Qizhen, et al.
Veröffentlicht: (2025)

CanKD: Cross-Attention-based Non-local operation for Feature-based Knowledge Distillation
von: Sun, Shizhe, et al.
Veröffentlicht: (2025)

Overcoming Language Priors for Visual Question Answering Based on Knowledge Distillation
von: Peng, Daowan, et al.
Veröffentlicht: (2025)

StableKD: Breaking Inter-block Optimization Entanglement for Stable Knowledge Distillation
von: Kao, Shiu-hong, et al.
Veröffentlicht: (2023)

Think, Act, Build: An Agentic Framework with Vision Language Models for Zero-Shot 3D Visual Grounding
von: Wang, Haibo, et al.
Veröffentlicht: (2026)

Data-free Knowledge Distillation for Fine-grained Visual Categorization
von: Shao, Renrong, et al.
Veröffentlicht: (2024)

Generalizable Knowledge Distillation from Vision Foundation Models for Semantic Segmentation
von: Lv, Chonghua, et al.
Veröffentlicht: (2026)

Triage: Hierarchical Visual Budgeting for Efficient Video Reasoning in Vision-Language Models
von: Wang, Anmin, et al.
Veröffentlicht: (2026)

GaitKD: A Universal Decoupled Distillation Framework for Efficient Gait Recognition
von: Li, Yuqi, et al.
Veröffentlicht: (2026)

Towards Long-window Anchoring in Vision-Language Model Distillation
von: Zhou, Haoyi, et al.
Veröffentlicht: (2025)

MST-KD: Multiple Specialized Teachers Knowledge Distillation for Fair Face Recognition
von: Caldeira, Eduarda, et al.
Veröffentlicht: (2024)

TIE-KD: Teacher-Independent and Explainable Knowledge Distillation for Monocular Depth Estimation
von: Choi, Sangwon, et al.
Veröffentlicht: (2024)

CLIP-KD: An Empirical Study of CLIP Model Distillation
von: Yang, Chuanguang, et al.
Veröffentlicht: (2023)

IKOD: Mitigating Visual Attention Degradation in Large Vision-Language Models
von: Yang, Jiabing, et al.
Veröffentlicht: (2025)

MapKD: Unlocking Prior Knowledge with Cross-Modal Distillation for Efficient Online HD Map Construction
von: Yan, Ziyang, et al.
Veröffentlicht: (2025)

FREE-Switch: Frequency-based Dynamic LoRA Switch for Style Transfer
von: Zheng, Shenghe, et al.
Veröffentlicht: (2026)

TransKD: Transformer Knowledge Distillation for Efficient Semantic Segmentation
von: Liu, Ruiping, et al.
Veröffentlicht: (2022)

m2mKD: Module-to-Module Knowledge Distillation for Modular Transformers
von: Lo, Ka Man, et al.
Veröffentlicht: (2024)

Rein++: Efficient Generalization and Adaptation for Semantic Segmentation with Vision Foundation Models
von: Wei, Zhixiang, et al.
Veröffentlicht: (2025)

SKDF: A Simple Knowledge Distillation Framework for Distilling Open-Vocabulary Knowledge to Open-world Object Detector
von: Ma, Shuailei, et al.
Veröffentlicht: (2023)

KD-CVG: A Knowledge-Driven Approach for Creative Video Generation
von: Liu, Linkai, et al.
Veröffentlicht: (2026)