Buchumschlag

An Attention-based Representation Distillation Baseline for Multi-Label Continual Learning

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Menabue, Martin, Frascaroli, Emanuele, Boschini, Matteo, Bonicelli, Lorenzo, Porrello, Angelo, Calderara, Simone
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computer Vision and Pattern Recognition Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

CLIP with Generative Latent Replay: a Strong Baseline for Incremental Learning
von: Frascaroli, Emanuele, et al.
Veröffentlicht: (2024)

Semantic Residual Prompts for Continual Learning
von: Menabue, Martin, et al.
Veröffentlicht: (2024)

Modular Embedding Recomposition for Incremental Learning
von: Panariello, Aniello, et al.
Veröffentlicht: (2025)

May the Forgetting Be with You: Alternate Replay for Learning with Noisy Labels
von: Millunzi, Monica, et al.
Veröffentlicht: (2024)

Selective Attention-based Modulation for Continual Learning
von: Bellitto, Giovanni, et al.
Veröffentlicht: (2024)

How to Train Your Metamorphic Deep Neural Network
von: Sommariva, Thomas, et al.
Veröffentlicht: (2025)

DitHub: A Modular Framework for Incremental Open-Vocabulary Object Detection
von: Cappellino, Chiara, et al.
Veröffentlicht: (2025)

Transporting Task Vectors across Different Architectures without Training
von: Rinaldi, Filippo, et al.
Veröffentlicht: (2026)

Is Multiple Object Tracking a Matter of Specialization?
von: Mancusi, Gianluca, et al.
Veröffentlicht: (2024)

Trajectory Forecasting through Low-Rank Adaptation of Discrete Latent Codes
von: Benaglia, Riccardo, et al.
Veröffentlicht: (2024)

ABRA: Teleporting Fine-Tuned Knowledge Across Domains for Open-Vocabulary Object Detection
von: Bernardi, Mattia, et al.
Veröffentlicht: (2026)

Mask and Compress: Efficient Skeleton-based Action Recognition in Continual Learning
von: Mosconi, Matteo, et al.
Veröffentlicht: (2024)

Latent Spectral Regularization for Continual Learning
von: Frascaroli, Emanuele, et al.
Veröffentlicht: (2023)

Gradient-Sign Masking for Task Vector Transport Across Pre-Trained Models
von: Rinaldi, Filippo, et al.
Veröffentlicht: (2025)

Monocular Per-Object Distance Estimation with Masked Object Modeling
von: Panariello, Aniello, et al.
Veröffentlicht: (2024)

A Second-Order Perspective on Model Compositionality and Incremental Learning
von: Porrello, Angelo, et al.
Veröffentlicht: (2024)

Zero-Shot Synthetic-to-Real Handwritten Text Recognition via Task Analogies
von: Garrido-Munoz, Carlos, et al.
Veröffentlicht: (2026)

Continual Learning of Conjugated Visual Representations through Higher-order Motion Flows
von: Marullo, Simone, et al.
Veröffentlicht: (2024)

Continual Distillation Learning: Knowledge Distillation in Prompt-based Continual Learning
von: Zhang, Qifan, et al.
Veröffentlicht: (2024)

Accurate and Efficient Low-Rank Model Merging in Core Space
von: Panariello, Aniello, et al.
Veröffentlicht: (2025)

Distilling Linearized Behavior into Non-Linear Fine-Tuning for Effective Task Arithmetic
von: Sommariva, Thomas, et al.
Veröffentlicht: (2026)

Multi-Label Knowledge Distillation
von: Yang, Penghui, et al.
Veröffentlicht: (2023)

Update Your Transformer to the Latest Release: Re-Basin of Task Vectors
von: Rinaldi, Filippo, et al.
Veröffentlicht: (2025)

Communication Efficient Split Learning of ViTs with Attention-based Double Compression
von: Alvetreti, Federico, et al.
Veröffentlicht: (2025)

Self-Labeling the Job Shop Scheduling Problem
von: Corsini, Andrea, et al.
Veröffentlicht: (2024)

Federated Learning with Label-Masking Distillation
von: Lu, Jianghu, et al.
Veröffentlicht: (2024)

Densely Distilling Cumulative Knowledge for Continual Learning
von: Shi, Zenglin, et al.
Veröffentlicht: (2024)

Feature-based Graph Attention Networks Improve Online Continual Learning
von: Sim, Adjovi, et al.
Veröffentlicht: (2025)

Dataset Distillers Are Good Label Denoisers In the Wild
von: Cheng, Lechao, et al.
Veröffentlicht: (2024)

Online Distillation with Continual Learning for Cyclic Domain Shifts
von: Houyon, Joachim, et al.
Veröffentlicht: (2023)

Random Representations Outperform Online Continually Learned Representations
von: Prabhu, Ameya, et al.
Veröffentlicht: (2024)

Beyond Conventional Transformers: The Medical X-ray Attention (MXA) Block for Improved Multi-Label Diagnosis Using Knowledge Distillation
von: Rand, Amit, et al.
Veröffentlicht: (2025)

Multi-Level Knowledge Distillation and Dynamic Self-Supervised Learning for Continual Learning
von: Kim, Taeheon, et al.
Veröffentlicht: (2025)

Continual Learning by Three-Phase Consolidation
von: Maltoni, Davide, et al.
Veröffentlicht: (2024)

Self-Distillation of Hidden Layers for Self-Supervised Representation Learning
von: Lowe, Scott C., et al.
Veröffentlicht: (2026)

PHI-S: Distribution Balancing for Label-Free Multi-Teacher Distillation
von: Ranzinger, Mike, et al.
Veröffentlicht: (2024)

GBRIP: Granular Ball Representation for Imbalanced Partial Label Learning
von: Huang, Jintao, et al.
Veröffentlicht: (2024)

Revisiting Supervision for Continual Representation Learning
von: Marczak, Daniel, et al.
Veröffentlicht: (2023)

LADA: Scalable Label-Specific CLIP Adapter for Continual Learning
von: Luo, Mao-Lin, et al.
Veröffentlicht: (2025)

Unsupervised Representation Learning by Balanced Self Attention Matching
von: Shalam, Daniel, et al.
Veröffentlicht: (2024)