Buchumschlag

Efficient training for compact compression models via sequential distillation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Rodrigues, Caroline Mazini, Keriven, Nicolas, Maugey, Thomas
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computer Vision and Pattern Recognition Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Transforming gradient-based techniques into interpretable methods
von: Rodrigues, Caroline Mazini, et al.
Veröffentlicht: (2024)

Explaning with trees: interpreting CNNs using hierarchies
von: Rodrigues, Caroline Mazini, et al.
Veröffentlicht: (2024)

Fine color guidance in diffusion models and its application to image compression at extremely low bitrates
von: Bordin, Tom, et al.
Veröffentlicht: (2024)

Bridging Human Concepts and Computer Vision for Explainable Face Verification
von: Doh, Miriam, et al.
Veröffentlicht: (2024)

How to build a consistency model: Learning flow maps via self-distillation
von: Boffi, Nicholas M., et al.
Veröffentlicht: (2025)

Learning few-step posterior samplers by unfolding and distillation of diffusion models
von: Mbakam, Charlesquin Kemajou, et al.
Veröffentlicht: (2025)

Found in Translation: semantic approaches for enhancing AI interpretability in face verification
von: Doh, Miriam, et al.
Veröffentlicht: (2025)

SPARE: Self-distillation for PARameter-Efficient Removal
von: Mola, Natnael, et al.
Veröffentlicht: (2026)

ViSTa Dataset: Do vision-language models understand sequential tasks?
von: Wybitul, Evžen, et al.
Veröffentlicht: (2024)

Variational Bayes image restoration with compressive autoencoders
von: Biquard, Maud, et al.
Veröffentlicht: (2023)

SalNAS: Efficient Saliency-prediction Neural Architecture Search with self-knowledge distillation
von: Termritthikun, Chakkrit, et al.
Veröffentlicht: (2024)

On the effectiveness of multimodal privileged knowledge distillation in two vision transformer based diagnostic applications
von: Baur, Simon, et al.
Veröffentlicht: (2025)

PQD: Post-training Quantization for Efficient Diffusion Models
von: Ye, Jiaojiao, et al.
Veröffentlicht: (2024)

Pre-trained Visual Dynamics Representations for Efficient Policy Learning
von: Luo, Hao, et al.
Veröffentlicht: (2024)

tenSVD algorithm for compression
von: Gallo, Michele
Veröffentlicht: (2025)

Don't drop your samples! Coherence-aware training benefits Conditional diffusion
von: Dufour, Nicolas, et al.
Veröffentlicht: (2024)

Tensor network compressibility of convolutional models
von: Singh, Sukhbinder, et al.
Veröffentlicht: (2024)

Fast constrained sampling in pre-trained diffusion models
von: Graikos, Alexandros, et al.
Veröffentlicht: (2024)

Efficient and Long-Tailed Generalization for Pre-trained Vision-Language Model
von: Shi, Jiang-Xin, et al.
Veröffentlicht: (2024)

Sample what you cant compress
von: Birodkar, Vighnesh, et al.
Veröffentlicht: (2024)

Exploring bidirectional bounds for minimax-training of Energy-based models
von: Geng, Cong, et al.
Veröffentlicht: (2025)

SMIC: Semantic Multi-Item Compression based on CLIP dictionary
von: Bachard, Tom, et al.
Veröffentlicht: (2024)

Unified Latents (UL): How to train your latents
von: Heek, Jonathan, et al.
Veröffentlicht: (2026)

Leveraging Pre-trained CNNs for Efficient Feature Extraction in Rice Leaf Disease Classification
von: Sobuj, Md. Shohanur Islam, et al.
Veröffentlicht: (2024)

Robustly overfitting latents for flexible neural image compression
von: Perugachi-Diaz, Yura, et al.
Veröffentlicht: (2024)

The effect of variable labels on deep learning models trained to predict breast density
von: Squires, Steven, et al.
Veröffentlicht: (2022)

CHAMMI-75: Pre-training multi-channel models with heterogeneous microscopy images
von: Agrawal, Vidit, et al.
Veröffentlicht: (2025)

The Solution for the sequential task continual learning track of the 2nd Greater Bay Area International Algorithm Competition
von: Pan, Sishun, et al.
Veröffentlicht: (2024)

InDistill: Information flow-preserving knowledge distillation for model compression
von: Sarridis, Ioannis, et al.
Veröffentlicht: (2022)

Enhancing compact convolutional transformers with super attention
von: Leandre, Simpenzwe Honore, et al.
Veröffentlicht: (2025)

Improved implicit diffusion model with knowledge distillation to estimate the spatial distribution density of carbon stock in remote sensing imagery
von: Yu, Zhenyu, et al.
Veröffentlicht: (2024)

Copula-based mixture model identification for subgroup clustering with imaging applications
von: Zheng, Fei, et al.
Veröffentlicht: (2025)

When Worse is Better: Navigating the compression-generation tradeoff in visual tokenization
von: Ramanujan, Vivek, et al.
Veröffentlicht: (2024)

Self-training via Metric Learning for Source-Free Domain Adaptation of Semantic Segmentation
von: Akkaya, Ibrahim Batuhan, et al.
Veröffentlicht: (2022)

TExplain: Explaining Learned Visual Features via Pre-trained (Frozen) Language Models
von: Taghanaki, Saeid Asgari, et al.
Veröffentlicht: (2023)

Improving OOD Generalization of Pre-trained Encoders via Aligned Embedding-Space Ensembles
von: Peng, Shuman, et al.
Veröffentlicht: (2024)

Metis-SPECS: Decoupling Multimodal Learning via Self-distilled Preference-based Cold Start
von: Chen, Kun, et al.
Veröffentlicht: (2025)

Reduced storage direct tensor ring decomposition for convolutional neural networks compression
von: Gabor, Mateusz, et al.
Veröffentlicht: (2024)

Unified Framework for Pre-trained Neural Network Compression via Decomposition and Optimized Rank Selection
von: Aghababaei-Harandi, Ali, et al.
Veröffentlicht: (2024)

HFI: A unified framework for training-free detection and implicit watermarking of latent diffusion model generated images
von: Choi, Sungik, et al.
Veröffentlicht: (2024)