:: Library Catalog

Buchumschlag

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Vilucchio, Matteo, Troiani, Emanuele, Erba, Vittorio, Krzakala, Florent
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Machine Learning
Online-Zugang:	https://arxiv.org/abs/2305.18974
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

The Nuclear Route: Sharp Asymptotics of ERM in Overparameterized Quadratic Networks
von: Erba, Vittorio, et al.
Veröffentlicht: (2025)

Single-Head Attention in High Dimensions: A Theory of Generalization, Weights Spectra, and Scaling Laws
von: Boncoraglio, Fabrizio, et al.
Veröffentlicht: (2025)

Asymptotics of Non-Convex Generalized Linear Models in High-Dimensions: A proof of the replica formula
von: Vilucchio, Matteo, et al.
Veröffentlicht: (2025)

A High Dimensional Statistical Model for Adversarial Training: Geometry and Trade-Offs
von: Tanner, Kasimir, et al.
Veröffentlicht: (2024)

Scaling Laws and Spectra of Shallow Neural Networks in the Feature Learning Regime
von: Defilippis, Leonardo, et al.
Veröffentlicht: (2025)

Deep Learning as Neural Low-Degree Filtering: A Spectral Theory of Hierarchical Feature Learning
von: Dandi, Yatin, et al.
Veröffentlicht: (2026)

Bayes optimal learning of attention-indexed models
von: Boncoraglio, Fabrizio, et al.
Veröffentlicht: (2025)

Rigorous dynamical mean field theory for stochastic gradient descent methods
von: Gerbelot, Cedric, et al.
Veröffentlicht: (2022)

Fundamental limits of learning in sequence multi-index models and deep attention networks: High-dimensional asymptotics and sharp thresholds
von: Troiani, Emanuele, et al.
Veröffentlicht: (2025)

Bayes-optimal learning of an extensive-width neural network from quadratically many samples
von: Maillard, Antoine, et al.
Veröffentlicht: (2024)

The Benefits of Reusing Batches for Gradient Descent in Two-Layer Networks: Breaking the Curse of Information and Leap Exponents
von: Dandi, Yatin, et al.
Veröffentlicht: (2024)

Bilinear Sequence Regression: A Model for Learning from Long Sequences of High-dimensional Tokens
von: Erba, Vittorio, et al.
Veröffentlicht: (2024)

Fundamental computational limits of weak learnability in high-dimensional multi-index models
von: Troiani, Emanuele, et al.
Veröffentlicht: (2024)

Learning with Restricted Boltzmann Machines: Asymptotics of AMP and GD in High Dimensions
von: Xu, Yizhou, et al.
Veröffentlicht: (2025)

On the Geometry of Regularization in Adversarial Training: High-Dimensional Asymptotics and Generalization Bounds
von: Vilucchio, Matteo, et al.
Veröffentlicht: (2024)

A solvable high-dimensional model where nonlinear autoencoders learn structure invisible to PCA while test loss misaligns with generalization
von: Mendes, Vicente Conde, et al.
Veröffentlicht: (2026)

Fundamental Limits of Matrix Sensing: Exact Asymptotics, Universality, and Applications
von: Xu, Yizhou, et al.
Veröffentlicht: (2025)

Understanding and Minimising Outlier Features in Neural Network Training
von: He, Bobby, et al.
Veröffentlicht: (2024)

Statistical mechanics of the maximum-average submatrix problem
von: Erba, Vittorio, et al.
Veröffentlicht: (2023)

Quenches in the Sherrington-Kirkpatrick model
von: Erba, Vittorio, et al.
Veröffentlicht: (2024)

Asymptotics of SGD in Sequence-Single Index Models and Single-Layer Attention Networks
von: Arnaboldi, Luca, et al.
Veröffentlicht: (2025)

On the existence of consistent adversarial attacks in high-dimensional linear classification
von: Vilucchio, Matteo, et al.
Veröffentlicht: (2025)

A Random Matrix Theory Perspective on the Spectrum of Learned Features and Asymptotic Generalization Capabilities
von: Dandi, Yatin, et al.
Veröffentlicht: (2024)

Gibbs Sampling the Posterior of Neural Networks
von: Piccioli, Giovanni, et al.
Veröffentlicht: (2023)

Escaping mediocrity: how two-layer networks learn hard generalized linear models with SGD
von: Arnaboldi, Luca, et al.
Veröffentlicht: (2023)

Fundamental limits of Non-Linear Low-Rank Matrix Estimation
von: Mergny, Pierre, et al.
Veröffentlicht: (2024)

A phase transition between positional and semantic learning in a solvable model of dot-product attention
von: Cui, Hugo, et al.
Veröffentlicht: (2024)

The Computational Advantage of Depth: Learning High-Dimensional Hierarchical Functions with Gradient Descent
von: Dandi, Yatin, et al.
Veröffentlicht: (2025)

Optimal scaling laws in learning hierarchical multi-index models
von: Defilippis, Leonardo, et al.
Veröffentlicht: (2026)

A Noise Sensitivity Exponent Controls Large Statistical-to-Computational Gaps in Single- and Multi-Index Models
von: Defilippis, Leonardo, et al.
Veröffentlicht: (2026)

Deep Learning of Compositional Targets with Hierarchical Spectral Methods
von: Tabanelli, Hugo, et al.
Veröffentlicht: (2026)

Spectral Phase Transition and Optimal PCA in Block-Structured Spiked models
von: Mergny, Pierre, et al.
Veröffentlicht: (2024)

Analysis of learning a flow-based generative model from limited sample complexity
von: Cui, Hugo, et al.
Veröffentlicht: (2023)

Provable Learning of Random Hierarchy Models and Hierarchical Shallow-to-Deep Chaining
von: Ren, Yunwei, et al.
Veröffentlicht: (2026)

Asymptotics of feature learning in two-layer networks after one gradient-step
von: Cui, Hugo, et al.
Veröffentlicht: (2024)

Benefits of Online Tilted Empirical Risk Minimization: A Case Study of Outlier Detection and Robust Regression
von: Yildirim, Yigit E., et al.
Veröffentlicht: (2025)

Computational Thresholds in Multi-Modal Learning via the Spiked Matrix-Tensor Model
von: Tabanelli, Hugo, et al.
Veröffentlicht: (2025)

How Two-Layer Neural Networks Learn, One (Giant) Step at a Time
von: Dandi, Yatin, et al.
Veröffentlicht: (2023)

Repetita Iuvant: Data Repetition Allows SGD to Learn High-Dimensional Multi-Index Functions
von: Arnaboldi, Luca, et al.
Veröffentlicht: (2024)

Sampling with flows, diffusion and autoregressive neural networks: A spin-glass perspective
von: Ghio, Davide, et al.
Veröffentlicht: (2023)