Why Prototypes Collapse: Diagnosing and Preventing Partial Collapse in Prototypical Self-Supervised Learning

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Arteaga, Gabriel Y., Aasan, Marius, Chakraborty, Rwiddhi, Hjelkrem-Tan, Martine, Silva, Thalles, Kampffmeyer, Michael, Rivera, Adín Ramírez
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Suppressing Non-Semantic Noise in Masked Image Modeling Representations
von: Hjelkrem-Tan, Martine, et al.
Veröffentlicht: (2026)

SPoT: Subpixel Placement of Tokens in Vision Transformers
von: Hjelkrem-Tan, Martine, et al.
Veröffentlicht: (2025)

Differentiable Hierarchical Visual Tokenization
von: Aasan, Marius, et al.
Veröffentlicht: (2025)

Self-Organizing Visual Prototypes for Non-Parametric Representation Learning
von: Silva, Thalles, et al.
Veröffentlicht: (2025)

Learning from Memory: Non-Parametric Memory Augmented Self-Supervised Learning of Visual Features
von: Silva, Thalles, et al.
Veröffentlicht: (2024)

On Partial Prototype Collapse in the DINO Family of Self-Supervised Methods
von: Govindarajan, Hariprasath, et al.
Veröffentlicht: (2024)

ExMap: Leveraging Explainability Heatmaps for Unsupervised Group Robustness to Spurious Correlations
von: Chakraborty, Rwiddhi, et al.
Veröffentlicht: (2024)

A Spitting Image: Modular Superpixel Tokenization in Vision Transformers
von: Aasan, Marius, et al.
Veröffentlicht: (2024)

Preventing Collapse in Contrastive Learning with Orthonormal Prototypes (CLOP)
von: Li, Huanran, et al.
Veröffentlicht: (2024)

Prototypical Self-Explainable Models Without Re-training
von: Gautam, Srishti, et al.
Veröffentlicht: (2023)

Tied Prototype Model for Few-Shot Medical Image Segmentation
von: Kim, Hyeongji, et al.
Veröffentlicht: (2025)

Neural Collapse by Design: Learning Class Prototypes on the Hypersphere
von: Koromilas, Panagiotis, et al.
Veröffentlicht: (2026)

Collapse-Free Prototype Readout Layer for Transformer Encoders
von: Cirrincione, Giansalvo, et al.
Veröffentlicht: (2026)

Preventing Dimensional Collapse in Self-Supervised Learning via Orthogonality Regularization
von: He, Junlin, et al.
Veröffentlicht: (2024)

IConE: Batch Independent Collapse Prevention for Self-Supervised Representation Learning
von: Almpanakis, Konstantinos, et al.
Veröffentlicht: (2026)

Explainable Transformer Prototypes for Medical Diagnoses
von: Demir, Ugur, et al.
Veröffentlicht: (2024)

Preventing Curriculum Collapse in Self-Evolving Reasoning Systems
von: Mishra, Vaibhav
Veröffentlicht: (2026)

Coherence Collapse: Diagnosing Why Code Agents Fail After Reaching the Right Code
von: Kim, Myeongsoo, et al.
Veröffentlicht: (2026)

A Theoretical Framework for Preventing Class Collapse in Supervised Contrastive Learning
von: Lee, Chungpa, et al.
Veröffentlicht: (2025)

Explaining and Preventing Alignment Collapse in Iterative RLHF
von: Gauthier, Etienne, et al.
Veröffentlicht: (2026)

Collapse-Proof Non-Contrastive Self-Supervised Learning
von: Sansone, Emanuele, et al.
Veröffentlicht: (2024)

DOS: Distilling Observable Softmaps of Zipfian Prototypes for Self-Supervised Point Representation
von: Abdelsamad, Mohamed, et al.
Veröffentlicht: (2025)

Context-Based Interface Prototyping: Understanding the Effect of Prototype Representation on User Feedback
von: Hoggenmueller, Marius, et al.
Veröffentlicht: (2024)

Golden Ratio Weighting Prevents Model Collapse
von: He, Hengzhi, et al.
Veröffentlicht: (2025)

Preventing Model Collapse in Gaussian Process Latent Variable Models
von: Li, Ying, et al.
Veröffentlicht: (2024)

Why Reasoning Models Collapse Themselves in Reasoning
von: Zixi, Li
Veröffentlicht: (2025)

Collapsing Taylor Mode Automatic Differentiation
von: Dangel, Felix, et al.
Veröffentlicht: (2025)

Frequency-Aware Sparse Optimization for Diagnosing Grid Instabilities and Collapses
von: Vhakta, Swadesh, et al.
Veröffentlicht: (2025)

Self-organized Collapse of Societies
von: Jochim, Alexander, et al.
Veröffentlicht: (2025)

A Theoretical Perspective: How to Prevent Model Collapse in Self-consuming Training Loops
von: Fu, Shi, et al.
Veröffentlicht: (2025)

West Antarctic Meltwater can Prevent an AMOC Collapse
von: Sinet, Sacha, et al.
Veröffentlicht: (2025)

Exploring Information-Theoretic Metrics Associated with Neural Collapse in Supervised Training
von: Song, Kun, et al.
Veröffentlicht: (2024)

Self-Distillation Prototypes Network: Learning Robust Speaker Representations without Supervision
von: Chen, Yafeng, et al.
Veröffentlicht: (2024)

Self-Distillation Prototypes Network: Learning Robust Speaker Representations without Supervision
von: Chen, Yafeng, et al.
Veröffentlicht: (2023)

Semi-Supervised Contrastive Learning with Orthonormal Prototypes
von: Li, Huanran, et al.
Veröffentlicht: (2025)

Collapse of Memory - Memory of Collapse
Veröffentlicht: (2020)

PFML: Self-Supervised Learning of Time-Series Data Without Representation Collapse
von: Vaaras, Einari, et al.
Veröffentlicht: (2024)

Directional Neural Collapse Explains Few-Shot Transfer in Self-Supervised Learning
von: Luthra, Achleshwar, et al.
Veröffentlicht: (2026)

Primordial Black Holes from Axion Domain Wall Collapse
von: Dunsky, David I., et al.
Veröffentlicht: (2024)

Prototypical Partial Optimal Transport for Universal Domain Adaptation
von: Yang, Yucheng, et al.
Veröffentlicht: (2024)