Buchumschlag

Memorization capacity of deep ReLU neural networks characterized by width and depth

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yang, Xin, Yang, Yunfei
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Numerical Analysis
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

On the optimal approximation of Sobolev and Besov functions using deep ReLU neural networks
von: Yang, Yunfei
Veröffentlicht: (2024)

Approximation and learning of anisotropic and mixed smooth functions by deep ReLU neural networks
von: Yang, Yunfei, et al.
Veröffentlicht: (2026)

Two-hidden-layer ReLU neural networks and finite elements
von: Jin, Pengzhan
Veröffentlicht: (2024)

Multilevel Picard approximations and deep neural networks with ReLU, leaky ReLU, and softplus activation overcome the curse of dimensionality when approximating semilinear parabolic partial differential equations in $L^p$-sense
von: Neufeld, Ariel, et al.
Veröffentlicht: (2024)

Weighted variation spaces and approximation by shallow ReLU networks
von: DeVore, Ronald, et al.
Veröffentlicht: (2023)

On the algorithmic construction of deep ReLU networks
von: Huybrechs, Daan
Veröffentlicht: (2025)

On the growth of the parameters of approximating ReLU neural networks
von: Morina, Erion, et al.
Veröffentlicht: (2024)

Nonlocal techniques for the analysis of deep ReLU neural network approximations
von: Schneider, Cornelia, et al.
Veröffentlicht: (2025)

ReLU neural network approximation to piecewise constant functions
von: Cai, Zhiqiang, et al.
Veröffentlicht: (2024)

Sobolev Approximation of Deep ReLU Networks in Log-Barron Space
von: Song, Changhoon, et al.
Veröffentlicht: (2026)

Sharp Lower Bounds for Linearized ReLU^k Approximation on the Sphere
von: Mao, Tong, et al.
Veröffentlicht: (2025)

Higher Order Approximation Rates for ReLU CNNs in Korobov Spaces
von: Li, Yuwen, et al.
Veröffentlicht: (2025)

Optimal lower Lipschitz bounds for ReLU layers, saturation, and phase retrieval
von: Freeman, Daniel, et al.
Veröffentlicht: (2025)

On the existence of minimizers in shallow residual ReLU neural network optimization landscapes
von: Dereich, Steffen, et al.
Veröffentlicht: (2023)

Non-asymptotic convergence analysis of the stochastic gradient Hamiltonian Monte Carlo algorithm with discontinuous stochastic gradient with applications to training of ReLU neural networks
von: Liang, Luxu, et al.
Veröffentlicht: (2024)

Expressivity and Approximation Properties of Deep Neural Networks with ReLU$^k$ Activation
von: He, Juncai, et al.
Veröffentlicht: (2023)

Approximation Rates and VC-Dimension Bounds for (P)ReLU MLP Mixture of Experts
von: Kratsios, Anastasis, et al.
Veröffentlicht: (2024)

On the existence of optimal shallow feedforward networks with ReLU activation
von: Dereich, Steffen, et al.
Veröffentlicht: (2023)

Deep neural networks with ReLU, leaky ReLU, and softplus activation provably overcome the curse of dimensionality for space-time solutions of semilinear partial differential equations
von: Ackermann, Julia, et al.
Veröffentlicht: (2024)

Nonparametric regression using over-parameterized shallow ReLU neural networks
von: Yang, Yunfei, et al.
Veröffentlicht: (2023)

Nearly Optimal Approximation Rates for Deep Super ReLU Networks on Sobolev Spaces
von: Yang, Yahong, et al.
Veröffentlicht: (2023)

Deep neural networks with ReLU, leaky ReLU, and softplus activation provably overcome the curse of dimensionality for Kolmogorov partial differential equations with Lipschitz nonlinearities in the $L^p$-sense
von: Ackermann, Julia, et al.
Veröffentlicht: (2023)

Exponential Expressivity of ReLU$^k$ Neural Networks on Gevrey Classes with Point Singularities
von: Opschoor, Joost A. A., et al.
Veröffentlicht: (2024)

A Structure-Guided Gauss-Newton Method for Shallow ReLU Neural Network
von: Cai, Zhiqiang, et al.
Veröffentlicht: (2024)

Optimal rates of approximation by shallow ReLU$^k$ neural networks and applications to nonparametric regression
von: Yang, Yunfei, et al.
Veröffentlicht: (2023)

Deep ReLU neural networks overcome the curse of dimensionality when approximating semilinear partial integro-differential equations
von: Neufeld, Ariel, et al.
Veröffentlicht: (2023)

Learning smooth functions in high dimensions: from sparse polynomials to deep neural networks
von: Adcock, Ben, et al.
Veröffentlicht: (2024)

Universality and approximation bounds for echo state networks with random weights
von: Li, Zhen, et al.
Veröffentlicht: (2022)

Energy stable neural network for gradient flow equations
von: Wu, Yue, et al.
Veröffentlicht: (2023)

Optimal Approximation Rates for Deep ReLU Neural Networks on Sobolev and Besov Spaces
von: Siegel, Jonathan W.
Veröffentlicht: (2022)

Space-time deep neural network approximations for high-dimensional partial differential equations
von: Hornung, Fabian, et al.
Veröffentlicht: (2020)

On the expressivity of deep Heaviside networks
von: Kong, Insung, et al.
Veröffentlicht: (2025)

Minimum Width of Leaky-ReLU Neural Networks for Uniform Universal Approximation
von: Li, Li'ang, et al.
Veröffentlicht: (2023)

Equidistribution-based training of Free Knot Splines and ReLU Neural Networks
von: Appella, Simone, et al.
Veröffentlicht: (2024)

Multi-Fidelity Delayed Acceptance: hierarchical MCMC sampling for Bayesian inverse problems combining multiple solvers through deep neural networks
von: Zacchei, Filippo, et al.
Veröffentlicht: (2025)

Deep ReLU Neural Network Emulation in High-Frequency Acoustic Scattering
von: Henríquez, Fernando, et al.
Veröffentlicht: (2024)

Generalizing the SINDy approach with nested neural networks
von: Fiorini, Camilla, et al.
Veröffentlicht: (2024)

Training Hamiltonian neural networks without backpropagation
von: Rahma, Atamert, et al.
Veröffentlicht: (2024)

Gradient-free training of recurrent neural networks
von: Bolager, Erik Lien, et al.
Veröffentlicht: (2024)

Approximation Rates for Shallow ReLU$^k$ Neural Networks on Sobolev Spaces via the Radon Transform
von: Mao, Tong, et al.
Veröffentlicht: (2024)