Buchumschlag

No Task Left Behind: Isotropic Model Merging with Common and Task-Specific Subspaces

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Marczak, Daniel, Magistri, Simone, Cygert, Sebastian, Twardowski, Bartłomiej, Bagdanov, Andrew D., van de Weijer, Joost
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Accurate and Efficient Low-Rank Model Merging in Core Space
von: Panariello, Aniello, et al.
Veröffentlicht: (2025)

MagMax: Leveraging Model Merging for Seamless Continual Learning
von: Marczak, Daniel, et al.
Veröffentlicht: (2024)

Covariances for Free: Exploiting Mean Distributions for Training-free Federated Learning
von: Goswami, Dipam, et al.
Veröffentlicht: (2024)

IsoCLIP: Decomposing CLIP Projectors for Efficient Intra-modal Alignment
von: Magistri, Simone, et al.
Veröffentlicht: (2026)

Revisiting Supervision for Continual Representation Learning
von: Marczak, Daniel, et al.
Veröffentlicht: (2023)

An Empirical Analysis of Forgetting in Pre-trained Models with Incremental Low-Rank Updates
von: Soutif--Cormerais, Albin, et al.
Veröffentlicht: (2024)

Category Adaptation Meets Projected Distillation in Generalized Continual Category Discovery
von: Rypeść, Grzegorz, et al.
Veröffentlicht: (2023)

Task-recency bias strikes back: Adapting covariances in Exemplar-Free Class Incremental Learning
von: Rypeść, Grzegorz, et al.
Veröffentlicht: (2024)

Elastic Feature Consolidation for Cold Start Exemplar-Free Incremental Learning
von: Magistri, Simone, et al.
Veröffentlicht: (2024)

Backdoor Vectors: a Task Arithmetic View on Backdoor Attacks and Defenses
von: Pawlak, Stanisław, et al.
Veröffentlicht: (2025)

Cross-Modal Prototype Alignment and Mixing for Training-Free Few-Shot Classification
von: Goswami, Dipam, et al.
Veröffentlicht: (2026)

Query Drift Compensation: Enabling Compatibility in Continual Learning of Retrieval Embedding Models
von: Goswami, Dipam, et al.
Veröffentlicht: (2025)

Addressing The Devastating Effects Of Single-Task Data Poisoning In Exemplar-Free Continual Learning
von: Pawlak, Stanisław, et al.
Veröffentlicht: (2025)

FeCAM: Exploiting the Heterogeneity of Class Distributions in Exemplar-Free Continual Learning
von: Goswami, Dipam, et al.
Veröffentlicht: (2023)

Realistic Evaluation of Test-Time Adaptation Algorithms: Unsupervised Hyperparameter Selection
von: Cygert, Sebastian, et al.
Veröffentlicht: (2024)

AR-TTA: A Simple Method for Real-World Continual Test-Time Adaptation
von: Sójka, Damian, et al.
Veröffentlicht: (2023)

EFC++: Elastic Feature Consolidation with Prototype Re-balancing for Cold Start Exemplar-free Incremental Learning
von: Magistri, Simone, et al.
Veröffentlicht: (2025)

On the importance of cross-task features for class-incremental learning
von: Soutif--Cormerais, Albin, et al.
Veröffentlicht: (2021)

Calibrating Higher-Order Statistics for Few-Shot Class-Incremental Learning with Pre-trained Vision Transformers
von: Goswami, Dipam, et al.
Veröffentlicht: (2024)

Exemplar-free Continual Representation Learning via Learnable Drift Compensation
von: Gomez-Villa, Alex, et al.
Veröffentlicht: (2024)

How green is continual learning, really? Analyzing the energy consumption in continual training of vision foundation models
von: Trinci, Tomaso, et al.
Veröffentlicht: (2024)

SpectralGCD: Spectral Concept Selection and Cross-modal Representation Learning for Generalized Category Discovery
von: Caselli, Lorenzo, et al.
Veröffentlicht: (2026)

Improving Continual Learning Performance and Efficiency with Auxiliary Classifiers
von: Szatkowski, Filip, et al.
Veröffentlicht: (2024)

Preventing Latent Rehearsal Decay in Online Continual SSL with SOLAR
von: Cignoni, Giacomo, et al.
Veröffentlicht: (2026)

Divide and not forget: Ensemble of selectively trained experts in Continual Learning
von: Rypeść, Grzegorz, et al.
Veröffentlicht: (2024)

Merging by Matching Models in Task Parameter Subspaces
von: Tam, Derek, et al.
Veröffentlicht: (2023)

Subspace Optimization for Backpropagation-Free Continual Test-Time Adaptation
von: Sójka, Damian, et al.
Veröffentlicht: (2026)

Efficient Multi-Source Knowledge Transfer by Model Merging
von: Osial, Marcin, et al.
Veröffentlicht: (2025)

The Expanding Scope of the Stability Gap: Unveiling its Presence in Joint Incremental Learning of Homogeneous Tasks
von: Kamath, Sandesh, et al.
Veröffentlicht: (2024)

Beyond Classification: Dynamic Adapter Routing for Continual Multimodal Retrieval
von: Dobrzeniecka, Alicja, et al.
Veröffentlicht: (2026)

Mitigating the Backdoor Effect for Multi-Task Model Merging via Safety-Aware Subspace
von: Yang, Jinluan, et al.
Veröffentlicht: (2024)

Task Singular Vectors: Reducing Task Interference in Model Merging
von: Gargiulo, Antonio Andrea, et al.
Veröffentlicht: (2024)

Resurrecting Old Classes with New Data for Exemplar-Free Continual Learning
von: Goswami, Dipam, et al.
Veröffentlicht: (2024)

From Task-Specific Models to Unified Systems: A Review of Model Merging Approaches
von: Ruan, Wei, et al.
Veröffentlicht: (2025)

Model Merging in the Essential Subspace
von: Li, Longhua, et al.
Veröffentlicht: (2026)

Offline Reinforcement Learning with Imputed Rewards
von: Romeo, Carlo, et al.
Veröffentlicht: (2024)

The Art of Deception: Color Visual Illusions and Diffusion Models
von: Gomez-Villa, Alex, et al.
Veröffentlicht: (2024)

StatsMerging: Statistics-Guided Model Merging via Task-Specific Teacher Distillation
von: Merugu, Ranjith, et al.
Veröffentlicht: (2025)

ARC-RL: A Reinforcement Learning Playground Inspired by ARC Raiders
von: Romeo, Carlo, et al.
Veröffentlicht: (2026)

AdaMerging: Adaptive Model Merging for Multi-Task Learning
von: Yang, Enneng, et al.
Veröffentlicht: (2023)