Buchumschlag

Renormalization group for deep neural networks: Universality of learning and scaling laws

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Coppola, Gorka Peraza, Helias, Moritz, Ringel, Zohar
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Disordered Systems and Neural Networks
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Critical feature learning in deep neural networks
von: Fischer, Kirsten, et al.
Veröffentlicht: (2024)

Lecture notes: From Gaussian processes to feature learning
von: Helias, Moritz, et al.
Veröffentlicht: (2026)

Dynamics of neural scaling laws in random feature regression with powerlaw-distributed kernel eigenvalues
von: Kramp, Jakob, et al.
Veröffentlicht: (2026)

Linking Network and Neuron-level Correlations by Renormalized Field Theory
von: Dick, Michael, et al.
Veröffentlicht: (2023)

Applications of Statistical Field Theory in Deep Learning
von: Ringel, Zohar, et al.
Veröffentlicht: (2025)

From Kernels to Features: A Multi-Scale Adaptive Theory of Feature Learning
von: Rubin, Noa, et al.
Veröffentlicht: (2025)

Algorithmic Task Capture, Computational Complexity, and Inductive Bias of Infinite Transformers
von: Davidovich, Orit, et al.
Veröffentlicht: (2026)

Demystifying Spectral Bias on Real-World Data
von: Lavie, Itay, et al.
Veröffentlicht: (2024)

Implicit bias produces neural scaling laws in learning curves, from perceptrons to deep networks
von: D'Amico, Francesco, et al.
Veröffentlicht: (2025)

Renormalization group analysis of noisy neural field
von: Zang, Jie, et al.
Veröffentlicht: (2025)

Grokking as a First Order Phase Transition in Two Layer Networks
von: Rubin, Noa, et al.
Veröffentlicht: (2023)

Optimizing p-spin models through hypergraph neural networks and deep reinforcement learning
von: Zeng, Li, et al.
Veröffentlicht: (2026)

Effect of Synaptic Heterogeneity on Neuronal Coordination
von: Layer, Moritz, et al.
Veröffentlicht: (2023)

Wilsonian Renormalization of Neural Network Gaussian Processes
von: Howard, Jessica N., et al.
Veröffentlicht: (2024)

Reduction of interaction order in hard combinatorial optimization via conditionally independent degrees of freedom
von: Ciobanu, Alexandru, et al.
Veröffentlicht: (2025)

Towards Understanding Inductive Bias in Transformers: A View From Infinity
von: Lavie, Itay, et al.
Veröffentlicht: (2024)

A unified theory of feature learning in RNNs and DNNs
von: Bauer, Jan P., et al.
Veröffentlicht: (2026)

Field theory for optimal signal propagation in ResNets
von: Fischer, Kirsten, et al.
Veröffentlicht: (2023)

Improving deep neural network performance through sampling
von: Ghantasala, Lakshmi A., et al.
Veröffentlicht: (2025)

Renormalization group of topological scattering networks
von: Zhang, Zhe, et al.
Veröffentlicht: (2024)

Arbitrage equilibrium and the emergence of universal microstructure in deep neural networks
von: Venkatasubramanian, Venkat, et al.
Veröffentlicht: (2024)

Graph Neural Networks Do Not Always Oversmooth
von: Epping, Bastian, et al.
Veröffentlicht: (2024)

Numerical study of Darcy's law of yield stress fluids on a deep tree-like network
von: Munier, Stéphane, et al.
Veröffentlicht: (2024)

Statistical physics through the lens of real-space mutual information
von: Gökmen, Doruk Efe, et al.
Veröffentlicht: (2021)

Beyond-mean-field fluctuations for the solution of constraint satisfaction problems
von: Foos, Niklas, et al.
Veröffentlicht: (2025)

Topological mechanical neural networks as classifiers through in situ backpropagation learning
von: Li, Shuaifeng, et al.
Veröffentlicht: (2025)

A statistical mechanics framework for Bayesian deep neural networks beyond the infinite-width limit
von: Pacelli, R., et al.
Veröffentlicht: (2022)

Emergent weight morphologies in deep neural networks
von: de Jong, Pascal, et al.
Veröffentlicht: (2025)

Computing frustration and near-monotonicity in deep neural networks
von: Wendin, Joel, et al.
Veröffentlicht: (2025)

Finite-time Lyapunov exponents of deep neural networks
von: Storm, L., et al.
Veröffentlicht: (2023)

Application of deep neural networks for computing the renormalization group flow of the two-dimensional phi^4 field theory
von: Zhao, Yueqi, et al.
Veröffentlicht: (2025)

Generalized hetero-associative neural networks
von: Agliari, Elena, et al.
Veröffentlicht: (2024)

Compression theory for inhomogeneous systems
von: Gökmen, Doruk Efe, et al.
Veröffentlicht: (2023)

Spring-block theory of feature learning in deep neural networks
von: Shi, Cheng, et al.
Veröffentlicht: (2024)

Renormalization of networks with weak geometric coupling
von: van der Kolk, Jasper, et al.
Veröffentlicht: (2024)

High-dimensional learning of narrow neural networks
von: Cui, Hugo
Veröffentlicht: (2024)

Partial annealing and pattern decorrelation in associative neural networks
von: Albanese, Linda, et al.
Veröffentlicht: (2026)

Microscopic and collective signatures of feature learning in neural networks
von: Corti, Andrea, et al.
Veröffentlicht: (2025)

Instant prediction of relaxation in moiré superlattices using neural networks
von: Belonovskii, Aleksei V., et al.
Veröffentlicht: (2025)

Glassy dynamics near the interpolation transition in deep recurrent networks
von: Hertz, John, et al.
Veröffentlicht: (2024)