Buchumschlag

Aligning Logits Generatively for Principled Black-Box Knowledge Distillation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ma, Jing, Xiang, Xiang, Wang, Ke, Wu, Yuchuan, Li, Yongbin
Format:	Preprint
Veröffentlicht:	2022
Schlagworte:	Machine Learning Artificial Intelligence Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Frequency-Aligned Knowledge Distillation for Lightweight Spatiotemporal Forecasting
von: Li, Yuqi, et al.
Veröffentlicht: (2025)

DKDM: Data-Free Knowledge Distillation for Diffusion Models with Any Architecture
von: Xiang, Qianlong, et al.
Veröffentlicht: (2024)

Logit-Based Losses Limit the Effectiveness of Feature Knowledge Distillation
von: Cooper, Nicholas, et al.
Veröffentlicht: (2025)

Neural Tangent Knowledge Distillation for Optical Convolutional Networks
von: Xiang, Jinlin, et al.
Veröffentlicht: (2025)

Learning to Learn from APIs: Black-Box Data-Free Meta-Learning
von: Hu, Zixuan, et al.
Veröffentlicht: (2023)

Improving the Transferability of Adversarial Examples by Inverse Knowledge Distillation
von: Wu, Wenyuan, et al.
Veröffentlicht: (2025)

Towards Black-Box Membership Inference Attack for Diffusion Models
von: Li, Jingwei, et al.
Veröffentlicht: (2024)

ADBA:Approximation Decision Boundary Approach for Black-Box Adversarial Attacks
von: Wang, Feiyang, et al.
Veröffentlicht: (2024)

Connecting the Dots: Collaborative Fine-tuning for Black-Box Vision-Language Models
von: Wang, Zhengbo, et al.
Veröffentlicht: (2024)

Align and Distill: Unifying and Improving Domain Adaptive Object Detection
von: Kay, Justin, et al.
Veröffentlicht: (2024)

Logit Scaling for Out-of-Distribution Detection
von: Djurisic, Andrija, et al.
Veröffentlicht: (2024)

Small Scale Data-Free Knowledge Distillation
von: Liu, He, et al.
Veröffentlicht: (2024)

Dynamic Temperature Knowledge Distillation
von: Wei, Yukang, et al.
Veröffentlicht: (2024)

Multi-Label Knowledge Distillation
von: Yang, Penghui, et al.
Veröffentlicht: (2023)

Generative Dataset Distillation Based on Self-knowledge Distillation
von: Li, Longzhen, et al.
Veröffentlicht: (2025)

DistilDoc: Knowledge Distillation for Visually-Rich Document Applications
von: Van Landeghem, Jordy, et al.
Veröffentlicht: (2024)

Prompting the Unseen: Detecting Hidden Backdoors in Black-Box Models
von: Huang, Zi-Xuan, et al.
Veröffentlicht: (2024)

Improving Zero-shot Generalization of Learned Prompts via Unsupervised Knowledge Distillation
von: Mistretta, Marco, et al.
Veröffentlicht: (2024)

Incorporating Geo-Diverse Knowledge into Prompting for Increased Geographical Robustness in Object Recognition
von: Buettner, Kyle, et al.
Veröffentlicht: (2024)

The Role of Teacher Calibration in Knowledge Distillation
von: Kim, Suyoung, et al.
Veröffentlicht: (2025)

Wasserstein Distance Rivals Kullback-Leibler Divergence for Knowledge Distillation
von: Lv, Jiaming, et al.
Veröffentlicht: (2024)

On Explaining Knowledge Distillation: Measuring and Visualising the Knowledge Transfer Process
von: Adhane, Gereziher, et al.
Veröffentlicht: (2024)

What You See is What You Classify: Black Box Attributions
von: Stalder, Steven, et al.
Veröffentlicht: (2022)

ShareGPT-4o-Image: Aligning Multimodal Models with GPT-4o-Level Image Generation
von: Chen, Junying, et al.
Veröffentlicht: (2025)

From Logits to Hierarchies: Hierarchical Clustering made Simple
von: Palumbo, Emanuele, et al.
Veröffentlicht: (2024)

Transition Matching Distillation for Fast Video Generation
von: Nie, Weili, et al.
Veröffentlicht: (2026)

Self-Supervised Quantization-Aware Knowledge Distillation
von: Zhao, Kaiqi, et al.
Veröffentlicht: (2024)

Hyperbolic Coarse-to-Fine Few-Shot Class-Incremental Learning
von: Dai, Jiaxin, et al.
Veröffentlicht: (2025)

Trust-Region Noise Search for Black-Box Alignment of Diffusion and Flow Models
von: Schweiger, Niklas, et al.
Veröffentlicht: (2026)

Box6D : Zero-shot Category-level 6D Pose Estimation of Warehouse Boxes
von: Ma, Yintao, et al.
Veröffentlicht: (2025)

GASP: Efficient Black-Box Generation of Adversarial Suffixes for Jailbreaking LLMs
von: Basani, Advik Raj, et al.
Veröffentlicht: (2024)

VARestorer: One-Step VAR Distillation for Real-World Image Super-Resolution
von: Zhu, Yixuan, et al.
Veröffentlicht: (2026)

Simplex Clustering via sBeta with Applications to Online Adjustment of Black-Box Predictions
von: Chiaroni, Florent, et al.
Veröffentlicht: (2022)

Good Teachers Explain: Explanation-Enhanced Knowledge Distillation
von: Parchami-Araghi, Amin, et al.
Veröffentlicht: (2024)

Enhancing the General Agent Capabilities of Low-Parameter LLMs through Tuning and Multi-Branch Reasoning
von: Zhou, Qinhao, et al.
Veröffentlicht: (2024)

Dual-Model Weight Selection and Self-Knowledge Distillation for Medical Image Classification
von: Tsutsumi, Ayaka, et al.
Veröffentlicht: (2025)

TriDeNT: Triple Deep Network Training for Privileged Knowledge Distillation in Histopathology
von: Farndale, Lucas, et al.
Veröffentlicht: (2023)

MoFlow: One-Step Flow Matching for Human Trajectory Forecasting via Implicit Maximum Likelihood Estimation based Distillation
von: Fu, Yuxiang, et al.
Veröffentlicht: (2025)

VidModEx: Interpretable and Efficient Black Box Model Extraction for High-Dimensional Spaces
von: Kumar, Somnath Sendhil, et al.
Veröffentlicht: (2024)

Score identity Distillation: Exponentially Fast Distillation of Pretrained Diffusion Models for One-Step Generation
von: Zhou, Mingyuan, et al.
Veröffentlicht: (2024)