Balance Divergence for Knowledge Distillation
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Qi, Yafei, Wang, Chen, Zhang, Zhaoning, Liu, Yaping, Zhang, Yongmin |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
BD-KD: Balancing the Divergences for Online Knowledge Distillation
par: Amara, Ibtihel, et autres
Publié: (2022)
par: Amara, Ibtihel, et autres
Publié: (2022)
Remote Sensing Image Classification with Decoupled Knowledge Distillation
par: He, Yaping, et autres
Publié: (2025)
par: He, Yaping, et autres
Publié: (2025)
Asymmetric Decision-Making in Online Knowledge Distillation:Unifying Consensus and Divergence
par: Chen, Zhaowei, et autres
Publié: (2025)
par: Chen, Zhaowei, et autres
Publié: (2025)
De-confounded Data-free Knowledge Distillation for Handling Distribution Shifts
par: Wang, Yuzheng, et autres
Publié: (2024)
par: Wang, Yuzheng, et autres
Publié: (2024)
Sampling to Distill: Knowledge Transfer from Open-World Data
par: Wang, Yuzheng, et autres
Publié: (2023)
par: Wang, Yuzheng, et autres
Publié: (2023)
Target-Balanced Score Distillation
par: Xu, Zhou, et autres
Publié: (2025)
par: Xu, Zhou, et autres
Publié: (2025)
Distilling Balanced Knowledge from a Biased Teacher
par: Kim, Seonghak
Publié: (2025)
par: Kim, Seonghak
Publié: (2025)
TopKD: Top-scaled Knowledge Distillation
par: Wang, Qi, et autres
Publié: (2025)
par: Wang, Qi, et autres
Publié: (2025)
Non-target Divergence Hypothesis: Toward Understanding Domain Gaps in Cross-Modal Knowledge Distillation
par: Chen, Yilong, et autres
Publié: (2024)
par: Chen, Yilong, et autres
Publié: (2024)
LucidDreaming: Controllable Object-Centric 3D Generation
par: Wang, Zhaoning, et autres
Publié: (2023)
par: Wang, Zhaoning, et autres
Publié: (2023)
Generalist Multi-Class Anomaly Detection via Distillation to Two Heterogeneous Student Networks
par: Park, Hangil, et autres
Publié: (2025)
par: Park, Hangil, et autres
Publié: (2025)
Self-Cooperation Knowledge Distillation for Novel Class Discovery
par: Wang, Yuzheng, et autres
Publié: (2024)
par: Wang, Yuzheng, et autres
Publié: (2024)
MiniVLN: Efficient Vision-and-Language Navigation by Progressive Knowledge Distillation
par: Zhu, Junyou, et autres
Publié: (2024)
par: Zhu, Junyou, et autres
Publié: (2024)
NeRF Inpainting with Geometric Diffusion Prior and Balanced Score Distillation
par: Zhang, Menglin, et autres
Publié: (2024)
par: Zhang, Menglin, et autres
Publié: (2024)
Temporal Separation with Entropy Regularization for Knowledge Distillation in Spiking Neural Networks
par: Yu, Kairong, et autres
Publié: (2025)
par: Yu, Kairong, et autres
Publié: (2025)
SKDF: A Simple Knowledge Distillation Framework for Distilling Open-Vocabulary Knowledge to Open-world Object Detector
par: Ma, Shuailei, et autres
Publié: (2023)
par: Ma, Shuailei, et autres
Publié: (2023)
Can Students Beyond The Teacher? Distilling Knowledge from Teacher's Bias
par: Zhang, Jianhua, et autres
Publié: (2024)
par: Zhang, Jianhua, et autres
Publié: (2024)
Knowledge Distillation with Refined Logits
par: Sun, Wujie, et autres
Publié: (2024)
par: Sun, Wujie, et autres
Publié: (2024)
Knowledge Distillation via Query Selection for Detection Transformer
par: Liu, Yi, et autres
Publié: (2024)
par: Liu, Yi, et autres
Publié: (2024)
Cross-View Consistency Regularisation for Knowledge Distillation
par: Zhang, Weijia, et autres
Publié: (2024)
par: Zhang, Weijia, et autres
Publié: (2024)
CovMatch: Cross-Covariance Guided Multimodal Dataset Distillation with Trainable Text Encoder
par: Lee, Yongmin, et autres
Publié: (2025)
par: Lee, Yongmin, et autres
Publié: (2025)
PointViG: A Lightweight GNN-based Model for Efficient Point Cloud Analysis
par: Zheng, Qiang, et autres
Publié: (2024)
par: Zheng, Qiang, et autres
Publié: (2024)
Deep Tiny Network for Recognition-Oriented Face Image Quality Assessment
par: Peng, Baoyun, et autres
Publié: (2021)
par: Peng, Baoyun, et autres
Publié: (2021)
CLRKDNet: Speeding up Lane Detection with Knowledge Distillation
par: Qi, Weiqing, et autres
Publié: (2024)
par: Qi, Weiqing, et autres
Publié: (2024)
Expandable Residual Approximation for Knowledge Distillation
par: Yan, Zhaoyi, et autres
Publié: (2025)
par: Yan, Zhaoyi, et autres
Publié: (2025)
Neural Collapse Inspired Knowledge Distillation
par: Zhang, Shuoxi, et autres
Publié: (2024)
par: Zhang, Shuoxi, et autres
Publié: (2024)
FreeKD: Knowledge Distillation via Semantic Frequency Prompt
par: Zhang, Yuan, et autres
Publié: (2023)
par: Zhang, Yuan, et autres
Publié: (2023)
Student-Oriented Teacher Knowledge Refinement for Knowledge Distillation
par: Shen, Chaomin, et autres
Publié: (2024)
par: Shen, Chaomin, et autres
Publié: (2024)
SelMatch: Effectively Scaling Up Dataset Distillation via Selection-Based Initialization and Partial Updates by Trajectory Matching
par: Lee, Yongmin, et autres
Publié: (2024)
par: Lee, Yongmin, et autres
Publié: (2024)
Data-free Knowledge Distillation with Diffusion Models
par: Qi, Xiaohua, et autres
Publié: (2025)
par: Qi, Xiaohua, et autres
Publié: (2025)
KD-DETR: Knowledge Distillation for Detection Transformer with Consistent Distillation Points Sampling
par: Wang, Yu, et autres
Publié: (2022)
par: Wang, Yu, et autres
Publié: (2022)
Data-free Knowledge Distillation for Fine-grained Visual Categorization
par: Shao, Renrong, et autres
Publié: (2024)
par: Shao, Renrong, et autres
Publié: (2024)
Teaching with Uncertainty: Unleashing the Potential of Knowledge Distillation in Object Detection
par: Yi, Junfei, et autres
Publié: (2024)
par: Yi, Junfei, et autres
Publié: (2024)
Hybrid Data-Free Knowledge Distillation
par: Tang, Jialiang, et autres
Publié: (2024)
par: Tang, Jialiang, et autres
Publié: (2024)
GS-I$^{3}$: Gaussian Splatting for Surface Reconstruction from Illumination-Inconsistent Images
par: Wang, Tengfei, et autres
Publié: (2025)
par: Wang, Tengfei, et autres
Publié: (2025)
Diffusion-Guided Knowledge Distillation for Weakly-Supervised Low-Light Semantic Segmentation
par: Wang, Chunyan, et autres
Publié: (2025)
par: Wang, Chunyan, et autres
Publié: (2025)
Dual Teacher Knowledge Distillation with Domain Alignment for Face Anti-spoofing
par: Kong, Zhe, et autres
Publié: (2024)
par: Kong, Zhe, et autres
Publié: (2024)
TGDD: Trajectory Guided Dataset Distillation with Balanced Distribution
par: Ran, Fengli, et autres
Publié: (2025)
par: Ran, Fengli, et autres
Publié: (2025)
Knowledge Distillation with Multi-granularity Mixture of Priors for Image Super-Resolution
par: Li, Simiao, et autres
Publié: (2024)
par: Li, Simiao, et autres
Publié: (2024)
Wasserstein Distance Rivals Kullback-Leibler Divergence for Knowledge Distillation
par: Lv, Jiaming, et autres
Publié: (2024)
par: Lv, Jiaming, et autres
Publié: (2024)
Documents similaires
-
BD-KD: Balancing the Divergences for Online Knowledge Distillation
par: Amara, Ibtihel, et autres
Publié: (2022) -
Remote Sensing Image Classification with Decoupled Knowledge Distillation
par: He, Yaping, et autres
Publié: (2025) -
Asymmetric Decision-Making in Online Knowledge Distillation:Unifying Consensus and Divergence
par: Chen, Zhaowei, et autres
Publié: (2025) -
De-confounded Data-free Knowledge Distillation for Handling Distribution Shifts
par: Wang, Yuzheng, et autres
Publié: (2024) -
Sampling to Distill: Knowledge Transfer from Open-World Data
par: Wang, Yuzheng, et autres
Publié: (2023)