Buchumschlag

BD-KD: Balancing the Divergences for Online Knowledge Distillation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Amara, Ibtihel, Sepahvand, Nazanin, Meyer, Brett H., Gross, Warren J., Clark, James J.
Format:	Preprint
Veröffentlicht:	2022
Schlagworte:	Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Balance Divergence for Knowledge Distillation
von: Qi, Yafei, et al.
Veröffentlicht: (2025)

Faster Inference of Integer SWIN Transformer by Removing the GELU Activation
von: Tayaranian, Mohammadreza, et al.
Veröffentlicht: (2024)

AdCorDA: Classifier Refinement via Adversarial Correction and Domain Adaptation
von: Shen, Lulan, et al.
Veröffentlicht: (2024)

Robustness to distribution shifts of compressed networks for edge devices
von: Shen, Lulan, et al.
Veröffentlicht: (2024)

VLM-KD: Knowledge Distillation from VLM for Long-Tail Visual Recognition
von: Zhang, Zaiwei, et al.
Veröffentlicht: (2024)

TopKD: Top-scaled Knowledge Distillation
von: Wang, Qi, et al.
Veröffentlicht: (2025)

MoKD: Multi-Task Optimization for Knowledge Distillation
von: Hayder, Zeeshan, et al.
Veröffentlicht: (2025)

EA-KD: Entropy-based Adaptive Knowledge Distillation
von: Su, Chi-Ping, et al.
Veröffentlicht: (2023)

MapKD: Unlocking Prior Knowledge with Cross-Modal Distillation for Efficient Online HD Map Construction
von: Yan, Ziyang, et al.
Veröffentlicht: (2025)

Asymmetric Decision-Making in Online Knowledge Distillation:Unifying Consensus and Divergence
von: Chen, Zhaowei, et al.
Veröffentlicht: (2025)

KD-DETR: Knowledge Distillation for Detection Transformer with Consistent Distillation Points Sampling
von: Wang, Yu, et al.
Veröffentlicht: (2022)

StableKD: Breaking Inter-block Optimization Entanglement for Stable Knowledge Distillation
von: Kao, Shiu-hong, et al.
Veröffentlicht: (2023)

ACAM-KD: Adaptive and Cooperative Attention Masking for Knowledge Distillation
von: Lan, Qizhen, et al.
Veröffentlicht: (2025)

CrossKD: Cross-Head Knowledge Distillation for Object Detection
von: Wang, Jiabao, et al.
Veröffentlicht: (2023)

FreeKD: Knowledge Distillation via Semantic Frequency Prompt
von: Zhang, Yuan, et al.
Veröffentlicht: (2023)

Switch-KD: Visual-Switch Knowledge Distillation for Vision-Language Models
von: Sun, Haoyi, et al.
Veröffentlicht: (2026)

MST-KD: Multiple Specialized Teachers Knowledge Distillation for Fair Face Recognition
von: Caldeira, Eduarda, et al.
Veröffentlicht: (2024)

TIE-KD: Teacher-Independent and Explainable Knowledge Distillation for Monocular Depth Estimation
von: Choi, Sangwon, et al.
Veröffentlicht: (2024)

ClinKD: Cross-Modal Clinical Knowledge Distiller For Multi-Task Medical Images
von: Ge, Hongyu, et al.
Veröffentlicht: (2025)

AI-KD: Towards Alignment Invariant Face Image Quality Assessment Using Knowledge Distillation
von: Babnik, Žiga, et al.
Veröffentlicht: (2024)

CustomKD: Customizing Large Vision Foundation for Edge Model Improvement via Knowledge Distillation
von: Lee, Jungsoo, et al.
Veröffentlicht: (2025)

ComKD-CLIP: Comprehensive Knowledge Distillation for Contrastive Language-Image Pre-traning Model
von: Chen, Yifan, et al.
Veröffentlicht: (2024)

DiffKD-DCIS: Predicting Upgrade of Ductal Carcinoma In Situ with Diffusion Augmentation and Knowledge Distillation
von: Li, Tao, et al.
Veröffentlicht: (2026)

CanKD: Cross-Attention-based Non-local operation for Feature-based Knowledge Distillation
von: Sun, Shizhe, et al.
Veröffentlicht: (2025)

AI-KD: Adversarial learning and Implicit regularization for self-Knowledge Distillation
von: Kim, Hyungmin, et al.
Veröffentlicht: (2022)

MoVE-KD: Knowledge Distillation for VLMs with Mixture of Visual Encoders
von: Cao, Jiajun, et al.
Veröffentlicht: (2025)

DocKD: Knowledge Distillation from LLMs for Open-World Document Understanding Models
von: Kim, Sungnyun, et al.
Veröffentlicht: (2024)

CLIP-KD: An Empirical Study of CLIP Model Distillation
von: Yang, Chuanguang, et al.
Veröffentlicht: (2023)

m2mKD: Module-to-Module Knowledge Distillation for Modular Transformers
von: Lo, Ka Man, et al.
Veröffentlicht: (2024)

AgriKD: Cross-Architecture Knowledge Distillation for Efficient Leaf Disease Classification
von: Le, Minh-Dung, et al.
Veröffentlicht: (2026)

ReCo-KD: Region- and Context-Aware Knowledge Distillation for Efficient 3D Medical Image Segmentation
von: Lan, Qizhen, et al.
Veröffentlicht: (2026)

TransKD: Transformer Knowledge Distillation for Efficient Semantic Segmentation
von: Liu, Ruiping, et al.
Veröffentlicht: (2022)

PromptKD: Unsupervised Prompt Distillation for Vision-Language Models
von: Li, Zheng, et al.
Veröffentlicht: (2024)

KD360-VoxelBEV: LiDAR and 360-degree Camera Cross Modality Knowledge Distillation for Bird's-Eye-View Segmentation
von: E, Wenke, et al.
Veröffentlicht: (2025)

Align-KD: Distilling Cross-Modal Alignment Knowledge for Mobile Vision-Language Model
von: Feng, Qianhan, et al.
Veröffentlicht: (2024)

AuG-KD: Anchor-Based Mixup Generation for Out-of-Domain Knowledge Distillation
von: Tang, Zihao, et al.
Veröffentlicht: (2024)

Distilling Balanced Knowledge from a Biased Teacher
von: Kim, Seonghak
Veröffentlicht: (2025)

TTT-KD: Test-Time Training for 3D Semantic Segmentation through Knowledge Distillation from Foundation Models
von: Weijler, Lisa, et al.
Veröffentlicht: (2024)

ATMS-KD: Adaptive Temperature and Mixed Sample Knowledge Distillation for a Lightweight Residual CNN in Agricultural Embedded Systems
von: Ohamouddou, Mohamed, et al.
Veröffentlicht: (2025)

DeepKD: A Deeply Decoupled and Denoised Knowledge Distillation Trainer
von: Huang, Haiduo, et al.
Veröffentlicht: (2025)