Spectral Phase Transition and Optimal PCA in Block-Structured Spiked models
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Mergny, Pierre, Ko, Justin, Krzakala, Florent |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Spectral Thresholds in Correlated Spiked Models and Fundamental Limits of Partial Least Squares
par: Mergny, Pierre, et autres
Publié: (2025)
par: Mergny, Pierre, et autres
Publié: (2025)
Low-rank Matrix Estimation with Inhomogeneous Noise
par: Guionnet, Alice, et autres
Publié: (2022)
par: Guionnet, Alice, et autres
Publié: (2022)
Optimal Spectral Transitions in High-Dimensional Multi-Index Models
par: Defilippis, Leonardo, et autres
Publié: (2025)
par: Defilippis, Leonardo, et autres
Publié: (2025)
Gaussian Universality of Perceptrons with Random Labels
par: Gerace, Federica, et autres
Publié: (2022)
par: Gerace, Federica, et autres
Publié: (2022)
Computational Thresholds in Multi-Modal Learning via the Spiked Matrix-Tensor Model
par: Tabanelli, Hugo, et autres
Publié: (2025)
par: Tabanelli, Hugo, et autres
Publié: (2025)
Fundamental Limits of Matrix Sensing: Exact Asymptotics, Universality, and Applications
par: Xu, Yizhou, et autres
Publié: (2025)
par: Xu, Yizhou, et autres
Publié: (2025)
Bayes-optimal learning of an extensive-width neural network from quadratically many samples
par: Maillard, Antoine, et autres
Publié: (2024)
par: Maillard, Antoine, et autres
Publié: (2024)
Precise asymptotic analysis of Sobolev training for random feature models
par: Fisher, Katharine E, et autres
Publié: (2025)
par: Fisher, Katharine E, et autres
Publié: (2025)
The twin peaks of learning neural networks
par: Demyanenko, Elizaveta, et autres
Publié: (2024)
par: Demyanenko, Elizaveta, et autres
Publié: (2024)
Generalization performance of narrow one-hidden layer networks in the teacher-student setting
par: Ortiz, Rodrigo Pérez, et autres
Publié: (2025)
par: Ortiz, Rodrigo Pérez, et autres
Publié: (2025)
High-dimensional manifold of solutions in neural networks: insights from statistical physics
par: Malatesta, Enrico M.
Publié: (2023)
par: Malatesta, Enrico M.
Publié: (2023)
Sampling with flows, diffusion and autoregressive neural networks: A spin-glass perspective
par: Ghio, Davide, et autres
Publié: (2023)
par: Ghio, Davide, et autres
Publié: (2023)
Gaussian mixtures and non-parametric likelihoods through the lens of statistical mechanics
par: Ghosh, Subhroshekhar, et autres
Publié: (2026)
par: Ghosh, Subhroshekhar, et autres
Publié: (2026)
Analysis of Diffusion Models for Manifold Data
par: George, Anand Jerry, et autres
Publié: (2025)
par: George, Anand Jerry, et autres
Publié: (2025)
Phase Transitions between Accuracy Regimes in L2 regularized Deep Neural Networks
par: Ersoy, Ibrahim Talha, et autres
Publié: (2025)
par: Ersoy, Ibrahim Talha, et autres
Publié: (2025)
On the Atypical Solutions of the Symmetric Binary Perceptron
par: Barbier, Damien, et autres
Publié: (2023)
par: Barbier, Damien, et autres
Publié: (2023)
The Nuclear Route: Sharp Asymptotics of ERM in Overparameterized Quadratic Networks
par: Erba, Vittorio, et autres
Publié: (2025)
par: Erba, Vittorio, et autres
Publié: (2025)
Deep Learning as Neural Low-Degree Filtering: A Spectral Theory of Hierarchical Feature Learning
par: Dandi, Yatin, et autres
Publié: (2026)
par: Dandi, Yatin, et autres
Publié: (2026)
A Friendly Tutorial on Mean-Field Spin Glass Techniques for Non-Physicists
par: Montanari, Andrea, et autres
Publié: (2022)
par: Montanari, Andrea, et autres
Publié: (2022)
Learning with Restricted Boltzmann Machines: Asymptotics of AMP and GD in High Dimensions
par: Xu, Yizhou, et autres
Publié: (2025)
par: Xu, Yizhou, et autres
Publié: (2025)
A Fourier perspective on the learning dynamics of neural networks: from sample complexities to mechanistic insights
par: Ricci, Fabiola, et autres
Publié: (2026)
par: Ricci, Fabiola, et autres
Publié: (2026)
Feature learning from non-Gaussian inputs: the case of Independent Component Analysis in high dimensions
par: Ricci, Fabiola, et autres
Publié: (2025)
par: Ricci, Fabiola, et autres
Publié: (2025)
Asymptotics of Learning with Deep Structured (Random) Features
par: Schröder, Dominik, et autres
Publié: (2024)
par: Schröder, Dominik, et autres
Publié: (2024)
Fundamental limits of learning in sequence multi-index models and deep attention networks: High-dimensional asymptotics and sharp thresholds
par: Troiani, Emanuele, et autres
Publié: (2025)
par: Troiani, Emanuele, et autres
Publié: (2025)
A High Dimensional Statistical Model for Adversarial Training: Geometry and Trade-Offs
par: Tanner, Kasimir, et autres
Publié: (2024)
par: Tanner, Kasimir, et autres
Publié: (2024)
The committee machine: Computational to statistical gaps in learning a two-layers neural network
par: Aubin, Benjamin, et autres
Publié: (2018)
par: Aubin, Benjamin, et autres
Publié: (2018)
Single-Head Attention in High Dimensions: A Theory of Generalization, Weights Spectra, and Scaling Laws
par: Boncoraglio, Fabrizio, et autres
Publié: (2025)
par: Boncoraglio, Fabrizio, et autres
Publié: (2025)
Better Together: Cross and Joint Covariances Enhance Signal Detectability in Undersampled Data
par: Swain, Arabind, et autres
Publié: (2025)
par: Swain, Arabind, et autres
Publié: (2025)
The unbearable lightness of Restricted Boltzmann Machines: Theoretical Insights and Biological Applications
par: di Sarra, Giovanni, et autres
Publié: (2025)
par: di Sarra, Giovanni, et autres
Publié: (2025)
Effective Method for Inverse Ising Problem under Missing Observations in Restricted Boltzmann Machines
par: Sekimoto, Kaiji, et autres
Publié: (2025)
par: Sekimoto, Kaiji, et autres
Publié: (2025)
Lost in Retraining: Roaming the Parameter Space of Exponential Families Under Closed-Loop Learning
par: Jangjoo, Fariba, et autres
Publié: (2025)
par: Jangjoo, Fariba, et autres
Publié: (2025)
PCA recovery thresholds in low-rank matrix inference with sparse noise
par: Adomaityte, Urte, et autres
Publié: (2025)
par: Adomaityte, Urte, et autres
Publié: (2025)
The replica-symmetric free energy for Ising spin glasses with orthogonally invariant couplings
par: Fan, Zhou, et autres
Publié: (2021)
par: Fan, Zhou, et autres
Publié: (2021)
A spin-glass model for the loss surfaces of generative adversarial networks
par: Baskerville, Nicholas P, et autres
Publié: (2021)
par: Baskerville, Nicholas P, et autres
Publié: (2021)
Learning and Testing Inverse Statistical Problems For Interacting Systems Undergoing Phase Transition
par: Bae, Stefano, et autres
Publié: (2025)
par: Bae, Stefano, et autres
Publié: (2025)
Non-parametric learning critical behavior in Ising partition functions: PCA entropy and intrinsic dimension
par: Panda, Rajat K., et autres
Publié: (2023)
par: Panda, Rajat K., et autres
Publié: (2023)
Asymptotics of SGD in Sequence-Single Index Models and Single-Layer Attention Networks
par: Arnaboldi, Luca, et autres
Publié: (2025)
par: Arnaboldi, Luca, et autres
Publié: (2025)
Universal Scaling Laws of Absorbing Phase Transitions in Artificial Deep Neural Networks
par: Tamai, Keiichi, et autres
Publié: (2023)
par: Tamai, Keiichi, et autres
Publié: (2023)
Distribution of singular values in large sample cross-covariance matrices
par: Swain, Arabind, et autres
Publié: (2025)
par: Swain, Arabind, et autres
Publié: (2025)
Activation Functions, Statistics and Learning of Higher-Order Interactions in Restricted Boltzmann Machines
par: di Sarra, Giovanni, et autres
Publié: (2026)
par: di Sarra, Giovanni, et autres
Publié: (2026)
Documents similaires
-
Spectral Thresholds in Correlated Spiked Models and Fundamental Limits of Partial Least Squares
par: Mergny, Pierre, et autres
Publié: (2025) -
Low-rank Matrix Estimation with Inhomogeneous Noise
par: Guionnet, Alice, et autres
Publié: (2022) -
Optimal Spectral Transitions in High-Dimensional Multi-Index Models
par: Defilippis, Leonardo, et autres
Publié: (2025) -
Gaussian Universality of Perceptrons with Random Labels
par: Gerace, Federica, et autres
Publié: (2022) -
Computational Thresholds in Multi-Modal Learning via the Spiked Matrix-Tensor Model
par: Tabanelli, Hugo, et autres
Publié: (2025)