Buchumschlag

Optimal generalisation and learning transition in extensive-width shallow neural networks near interpolation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Barbier, Jean, Camilli, Francesco, Nguyen, Minh-Toan, Pastore, Mauro, Skerk, Rudy
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Disordered Systems and Neural Networks Statistical Mechanics Information Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Statistical mechanics of extensive-width Bayesian neural networks near interpolation
von: Barbier, Jean, et al.
Veröffentlicht: (2025)

Statistical physics of deep learning: Optimal learning of a multi-layer perceptron near interpolation
von: Barbier, Jean, et al.
Veröffentlicht: (2025)

Sharp feature-learning transitions and Bayes-optimal neural scaling laws in extensive-width networks
von: Nguyen, Minh-Toan, et al.
Veröffentlicht: (2026)

When low-loss paths make a binary neuron trainable: detecting algorithmic transitions with the connected ensemble
von: Barbier, Damien
Veröffentlicht: (2026)

Microscopic and collective signatures of feature learning in neural networks
von: Corti, Andrea, et al.
Veröffentlicht: (2025)

Finding the right path: statistical mechanics of connected solutions in constraint satisfaction problems
von: Barbier, Damien
Veröffentlicht: (2025)

The committee machine: Computational to statistical gaps in learning a two-layers neural network
von: Aubin, Benjamin, et al.
Veröffentlicht: (2018)

Guerra interpolation for inverse freezing
von: Albanese, Linda, et al.
Veröffentlicht: (2025)

Synaptic plasticity alters the nature of chaos transition in neural networks
von: Du, Wenkang, et al.
Veröffentlicht: (2024)

Information-theoretic reduction of deep neural networks to linear models in the overparametrized proportional regime
von: Camilli, Francesco, et al.
Veröffentlicht: (2025)

Coding schemes in neural networks learning classification tasks
von: van Meegen, Alexander, et al.
Veröffentlicht: (2024)

How to escape atypical regions in the symmetric binary perceptron: a journey through connected-solutions states
von: Barbier, Damien
Veröffentlicht: (2024)

Eigenvalues of random matrices with generalised correlations: a path integral approach
von: Baron, Joseph W., et al.
Veröffentlicht: (2021)

Banded non-Hermitian random matrices, neural networks, and eigenvalue degeneracies
von: Huang, Richard, et al.
Veröffentlicht: (2026)

Competing nonlinearities, criticality, and order-to-chaos transition in deep networks
von: Lesser, Omri, et al.
Veröffentlicht: (2026)

Spring-block theory of feature learning in deep neural networks
von: Shi, Cheng, et al.
Veröffentlicht: (2024)

Delocalization-localization dynamical phase transition of random walks on graphs
von: Carugno, Giorgio, et al.
Veröffentlicht: (2022)

Phase probabilities in first-order transitions using machine learning
von: Sukhoverkhova, Diana, et al.
Veröffentlicht: (2024)

Multiple intermediate phases in the interpolating Aubry-André-Fibonacci model
von: Guo, Chenyue
Veröffentlicht: (2024)

Spectral properties, localization transition and multifractal eigenvectors of the Laplacian on heterogeneous networks
von: da Silva, Jeferson D., et al.
Veröffentlicht: (2024)

Information content in continuous attractor neural networks is preserved in the presence of moderate disordered background connectivity
von: Kühn, Tobias, et al.
Veröffentlicht: (2023)

Sampling the space of solutions of an artificial neural network
von: Zambon, Alessandro, et al.
Veröffentlicht: (2025)

Ergodicity, lack thereof, and the performance of reservoir computing with memristive networks
von: Baccetti, Valentina, et al.
Veröffentlicht: (2023)

Density-dependent stochastic resetting: a large deviations framework for achieving target distributions over networks
von: Coghi, Francesco, et al.
Veröffentlicht: (2024)

Statistical mechanics of transfer learning in fully-connected networks in the proportional limit
von: Ingrosso, Alessandro, et al.
Veröffentlicht: (2024)

Application of deep neural networks for computing the renormalization group flow of the two-dimensional phi^4 field theory
von: Zhao, Yueqi, et al.
Veröffentlicht: (2025)

Predictive power of a Bayesian effective action for fully-connected one hidden layer neural networks in the proportional limit
von: Baglioni, P., et al.
Veröffentlicht: (2024)

Machine learning analysis of dimensional reduction conjecture for nonequilibrium Berezinskii-Kosterlitz-Thouless transition in three dimensions
von: Haga, Taiki
Veröffentlicht: (2023)

The dynamics of neural codes in biological and artificial neural networks
von: Morales, Guillermo B.
Veröffentlicht: (2024)

Memorisation, convergence and generalisation in generative models
von: Maillard, Antoine, et al.
Veröffentlicht: (2026)

Networks of neural networks: more is different
von: Agliari, Elena, et al.
Veröffentlicht: (2025)

Machine learning stochastic differential equations for the evolution of order parameters of classical many-body systems in and out of equilibrium
von: Carnazza, Francesco, et al.
Veröffentlicht: (2024)

Discontinuous BBP transitions
von: Bocchi, Dario, et al.
Veröffentlicht: (2026)

Evidence that the AT transition disappears below six dimensions
von: Vedula, Bharadwaj, et al.
Veröffentlicht: (2024)

Glassy dynamics in deep neural networks: A structural comparison
von: Winter, Max Kerr, et al.
Veröffentlicht: (2024)

Statistical Mechanics of the Sub-Optimal Transport
von: Piombo, Riccardo, et al.
Veröffentlicht: (2026)

Discontinuous transition in explosive percolation via local suppression
von: Cho, Young Sul
Veröffentlicht: (2025)

A Fourier perspective on the learning dynamics of neural networks: from sample complexities to mechanistic insights
von: Ricci, Fabiola, et al.
Veröffentlicht: (2026)

Very persistent random walkers reveal transitions in landscape topology
von: Kent-Dobias, Jaron
Veröffentlicht: (2025)

Re-entrant phase transitions induced by localization of zero-modes
von: Morone, Flaviano, et al.
Veröffentlicht: (2024)