Buchumschlag

High-dimensional learning of narrow neural networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Cui, Hugo
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Disordered Systems and Neural Networks
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Fundamental limits of learning in sequence multi-index models and deep attention networks: High-dimensional asymptotics and sharp thresholds
von: Troiani, Emanuele, et al.
Veröffentlicht: (2025)

High-dimensional Asymptotics of Denoising Autoencoders
von: Cui, Hugo, et al.
Veröffentlicht: (2023)

Asymptotics of feature learning in two-layer networks after one gradient-step
von: Cui, Hugo, et al.
Veröffentlicht: (2024)

Adaptive kernel predictors from feature-learning infinite limits of neural networks
von: Lauditi, Clarissa, et al.
Veröffentlicht: (2025)

A solvable model of learning generative diffusion: theory and insights
von: Cui, Hugo, et al.
Veröffentlicht: (2025)

Implicit bias produces neural scaling laws in learning curves, from perceptrons to deep networks
von: D'Amico, Francesco, et al.
Veröffentlicht: (2025)

Sharp description of local minima in the loss landscape of high-dimensional two-layer ReLU neural networks
von: Huang, Jie, et al.
Veröffentlicht: (2026)

Emergent weight morphologies in deep neural networks
von: de Jong, Pascal, et al.
Veröffentlicht: (2025)

Supervised and Unsupervised protocols for hetero-associative neural networks
von: Alessandrelli, Andrea, et al.
Veröffentlicht: (2025)

Deep neural networks from the perspective of ergodic theory
von: Zhang, Fan
Veröffentlicht: (2023)

Computing frustration and near-monotonicity in deep neural networks
von: Wendin, Joel, et al.
Veröffentlicht: (2025)

Finite-time Lyapunov exponents of deep neural networks
von: Storm, L., et al.
Veröffentlicht: (2023)

Training neural networks with structured noise improves classification and generalization
von: Benedetti, Marco, et al.
Veröffentlicht: (2023)

Coding schemes in neural networks learning classification tasks
von: van Meegen, Alexander, et al.
Veröffentlicht: (2024)

How does training shape the Riemannian geometry of neural network representations?
von: Zavatone-Veth, Jacob A., et al.
Veröffentlicht: (2023)

Boundary between noise and information applied to filtering neural network weight matrices
von: Staats, Max, et al.
Veröffentlicht: (2022)

Spring-block theory of feature learning in deep neural networks
von: Shi, Cheng, et al.
Veröffentlicht: (2024)

High-dimensional manifold of solutions in neural networks: insights from statistical physics
von: Malatesta, Enrico M.
Veröffentlicht: (2023)

The twin peaks of learning neural networks
von: Demyanenko, Elizaveta, et al.
Veröffentlicht: (2024)

Statistical physics analysis of graph neural networks: Approaching optimality in the contextual stochastic block model
von: Duranthon, O., et al.
Veröffentlicht: (2025)

Properties of the geometry of solutions and capacity of multi-layer neural networks with Rectified Linear Units activations
von: Baldassi, Carlo, et al.
Veröffentlicht: (2019)

What can we learn from quantum convolutional neural networks?
von: Umeano, Chukwudubem, et al.
Veröffentlicht: (2023)

Solution space and storage capacity of fully connected two-layer neural networks with generic activation functions
von: Nishiyama, Sota, et al.
Veröffentlicht: (2024)

Identifying internal patterns in (1+1)-dimensional directed percolation using neural networks
von: Parkhomenko, Danil, et al.
Veröffentlicht: (2025)

Analysis of Bootstrap and Subsampling in High-dimensional Regularized Regression
von: Clarté, Lucas, et al.
Veröffentlicht: (2024)

Pruning-induced phases in fully-connected neural networks: the eumentia, the dementia, and the amentia
von: Pan, Haining, et al.
Veröffentlicht: (2026)

Generalization performance of narrow one-hidden layer networks in the teacher-student setting
von: Ortiz, Rodrigo Pérez, et al.
Veröffentlicht: (2025)

Bilinear Sequence Regression: A Model for Learning from Long Sequences of High-dimensional Tokens
von: Erba, Vittorio, et al.
Veröffentlicht: (2024)

A solvable high-dimensional model where nonlinear autoencoders learn structure invisible to PCA while test loss misaligns with generalization
von: Mendes, Vicente Conde, et al.
Veröffentlicht: (2026)

Exact full-RSB SAT/UNSAT transition in infinitely wide two-layer neural networks
von: Annesi, Brandon L., et al.
Veröffentlicht: (2024)

Applying statistical learning theory to deep learning
von: Gerbelot, Cédric, et al.
Veröffentlicht: (2023)

Critical feature learning in deep neural networks
von: Fischer, Kirsten, et al.
Veröffentlicht: (2024)

Bayes-optimal learning of an extensive-width neural network from quadratically many samples
von: Maillard, Antoine, et al.
Veröffentlicht: (2024)

New non-Euclidean neural quantum states from additional types of hyperbolic recurrent neural networks
von: Dao, H. L.
Veröffentlicht: (2026)

Scaling and renormalization in high-dimensional regression
von: Atanasov, Alexander, et al.
Veröffentlicht: (2024)

A Fourier perspective on the learning dynamics of neural networks: from sample complexities to mechanistic insights
von: Ricci, Fabiola, et al.
Veröffentlicht: (2026)

On the role of non-linear latent features in bipartite generative neural networks
von: Bonnaire, Tony, et al.
Veröffentlicht: (2025)

A universal approximation theorem for nonlinear resistive networks
von: Scellier, Benjamin, et al.
Veröffentlicht: (2023)

Generative modeling through internal high-dimensional chaotic activity
von: Fournier, Samantha J., et al.
Veröffentlicht: (2024)

Asymptotic theory of in-context learning by linear attention
von: Lu, Yue M., et al.
Veröffentlicht: (2024)