Optimal Rates for Generalization of Gradient Descent for Deep ReLU Classification
Fuente:
arXiv
Salvato in:
| Autori principali: | Li, Yuanfan, Lei, Yunwen, Guo, Zheng-Chu, Ying, Yiming |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Agnostic Learning of General ReLU Activation Using Gradient Descent
di: Awasthi, Pranjal, et al.
Pubblicazione: (2022)
di: Awasthi, Pranjal, et al.
Pubblicazione: (2022)
Nearly Optimal Differentially Private ReLU Regression
di: Ding, Meng, et al.
Pubblicazione: (2025)
di: Ding, Meng, et al.
Pubblicazione: (2025)
Generalization Guarantees of Gradient Descent for Multi-Layer Neural Networks
di: Wang, Puyu, et al.
Pubblicazione: (2023)
di: Wang, Puyu, et al.
Pubblicazione: (2023)
Activation-Descent Regularization for Input Optimization of ReLU Networks
di: Yu, Hongzhan, et al.
Pubblicazione: (2024)
di: Yu, Hongzhan, et al.
Pubblicazione: (2024)
N-ReLU: Zero-Mean Stochastic Extension of ReLU
di: Manik, Md Motaleb Hossen, et al.
Pubblicazione: (2025)
di: Manik, Md Motaleb Hossen, et al.
Pubblicazione: (2025)
Optimal Sets and Solution Paths of ReLU Networks
di: Mishkin, Aaron, et al.
Pubblicazione: (2023)
di: Mishkin, Aaron, et al.
Pubblicazione: (2023)
Discrete Functional Geometry of ReLU Networks via ReLU Transition Graphs
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
The Resurrection of the ReLU
di: Horuz, Coşku Can, et al.
Pubblicazione: (2025)
di: Horuz, Coşku Can, et al.
Pubblicazione: (2025)
Sign Gradient Descent-based Neuronal Dynamics: ANN-to-SNN Conversion Beyond ReLU Network
di: Oh, Hyunseok, et al.
Pubblicazione: (2024)
di: Oh, Hyunseok, et al.
Pubblicazione: (2024)
The Geometry of ReLU Networks through the ReLU Transition Graph
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
SurvReLU: Inherently Interpretable Survival Analysis via Deep ReLU Networks
di: Sun, Xiaotong, et al.
Pubblicazione: (2024)
di: Sun, Xiaotong, et al.
Pubblicazione: (2024)
Some Super-approximation Rates of ReLU Neural Networks for Korobov Functions
di: Li, Yuwen, et al.
Pubblicazione: (2025)
di: Li, Yuwen, et al.
Pubblicazione: (2025)
Higher Order Approximation Rates for ReLU CNNs in Korobov Spaces
di: Li, Yuwen, et al.
Pubblicazione: (2025)
di: Li, Yuwen, et al.
Pubblicazione: (2025)
Universal Consistency of Wide and Deep ReLU Neural Networks and Minimax Optimal Convergence Rates for Kolmogorov-Donoho Optimal Function Classes
di: Ko, Hyunouk, et al.
Pubblicazione: (2024)
di: Ko, Hyunouk, et al.
Pubblicazione: (2024)
Optimal Approximation Rates for Deep ReLU Neural Networks on Sobolev and Besov Spaces
di: Siegel, Jonathan W.
Pubblicazione: (2022)
di: Siegel, Jonathan W.
Pubblicazione: (2022)
Stochastic Gradient Descent with Momentum is Algorithmically Stable
di: Lei, Yunwen, et al.
Pubblicazione: (2026)
di: Lei, Yunwen, et al.
Pubblicazione: (2026)
Directional Convergence, Benign Overfitting of Gradient Descent in leaky ReLU two-layer Neural Networks
di: Hashimoto, Ichiro
Pubblicazione: (2025)
di: Hashimoto, Ichiro
Pubblicazione: (2025)
Component-based Sketching for Deep ReLU Nets
di: Wang, Di, et al.
Pubblicazione: (2024)
di: Wang, Di, et al.
Pubblicazione: (2024)
On the Local Complexity of Linear Regions in Deep ReLU Networks
di: Patel, Niket, et al.
Pubblicazione: (2024)
di: Patel, Niket, et al.
Pubblicazione: (2024)
Implicit Hypersurface Approximation Capacity in Deep ReLU Networks
di: Vallin, Jonatan, et al.
Pubblicazione: (2024)
di: Vallin, Jonatan, et al.
Pubblicazione: (2024)
How Does the ReLU Activation Affect the Implicit Bias of Gradient Descent on High-dimensional Neural Network Regression?
di: Lai, Kuo-Wei, et al.
Pubblicazione: (2026)
di: Lai, Kuo-Wei, et al.
Pubblicazione: (2026)
Deep Network Approximation: Beyond ReLU to Diverse Activation Functions
di: Zhang, Shijun, et al.
Pubblicazione: (2023)
di: Zhang, Shijun, et al.
Pubblicazione: (2023)
Complexity of One-Dimensional ReLU DNNs
di: Kogan, Jonathan, et al.
Pubblicazione: (2025)
di: Kogan, Jonathan, et al.
Pubblicazione: (2025)
Symmetric Matrix Completion with ReLU Sampling
di: Liu, Huikang, et al.
Pubblicazione: (2024)
di: Liu, Huikang, et al.
Pubblicazione: (2024)
Two-Dimensional Deep ReLU CNN Approximation for Korobov Functions: A Constructive Approach
di: Fang, Qin, et al.
Pubblicazione: (2025)
di: Fang, Qin, et al.
Pubblicazione: (2025)
Deep ReLU Networks Have Surprisingly Simple Polytopes
di: Fan, Feng-Lei, et al.
Pubblicazione: (2023)
di: Fan, Feng-Lei, et al.
Pubblicazione: (2023)
Gradient flow dynamics of shallow ReLU networks for square loss and orthogonal inputs
di: Boursier, Etienne, et al.
Pubblicazione: (2022)
di: Boursier, Etienne, et al.
Pubblicazione: (2022)
Optimal Initialization in Depth: Lyapunov Initialization and Limit Theorems for Deep Leaky ReLU Networks
di: Kogler, Constantin, et al.
Pubblicazione: (2026)
di: Kogler, Constantin, et al.
Pubblicazione: (2026)
Is ReLU Adversarially Robust?
di: Sooksatra, Korn, et al.
Pubblicazione: (2024)
di: Sooksatra, Korn, et al.
Pubblicazione: (2024)
ReLU Networks for Exact Generation of Similar Graphs
di: Ghafoor, Mamoona, et al.
Pubblicazione: (2026)
di: Ghafoor, Mamoona, et al.
Pubblicazione: (2026)
Optimized Weight Initialization on the Stiefel Manifold for Deep ReLU Neural Networks
di: Lee, Hyungu, et al.
Pubblicazione: (2025)
di: Lee, Hyungu, et al.
Pubblicazione: (2025)
Why ReLU? A Bit-Model Dichotomy for Deep Network Training
di: Doron-Arad, Ilan, et al.
Pubblicazione: (2026)
di: Doron-Arad, Ilan, et al.
Pubblicazione: (2026)
Generalization analysis with deep ReLU networks for metric and similarity learning
di: Zhou, Junyu, et al.
Pubblicazione: (2024)
di: Zhou, Junyu, et al.
Pubblicazione: (2024)
Beyond ReLU: Chebyshev-DQN for Enhanced Deep Q-Networks
di: Yazdannik, Saman, et al.
Pubblicazione: (2025)
di: Yazdannik, Saman, et al.
Pubblicazione: (2025)
Sobolev Approximation of Deep ReLU Networks in Log-Barron Space
di: Song, Changhoon, et al.
Pubblicazione: (2026)
di: Song, Changhoon, et al.
Pubblicazione: (2026)
Constraining the outputs of ReLU neural networks
di: Alexandr, Yulia, et al.
Pubblicazione: (2025)
di: Alexandr, Yulia, et al.
Pubblicazione: (2025)
Toric geometry of ReLU neural networks
di: Fu, Yaoying
Pubblicazione: (2025)
di: Fu, Yaoying
Pubblicazione: (2025)
Pathwise Explanation of ReLU Neural Networks
di: Lim, Seongwoo, et al.
Pubblicazione: (2025)
di: Lim, Seongwoo, et al.
Pubblicazione: (2025)
Convexity in ReLU Neural Networks: beyond ICNNs?
di: Gagneux, Anne, et al.
Pubblicazione: (2025)
di: Gagneux, Anne, et al.
Pubblicazione: (2025)
On Size-Independent Sample Complexity of ReLU Networks
di: Sellke, Mark
Pubblicazione: (2023)
di: Sellke, Mark
Pubblicazione: (2023)
Documenti analoghi
-
Agnostic Learning of General ReLU Activation Using Gradient Descent
di: Awasthi, Pranjal, et al.
Pubblicazione: (2022) -
Nearly Optimal Differentially Private ReLU Regression
di: Ding, Meng, et al.
Pubblicazione: (2025) -
Generalization Guarantees of Gradient Descent for Multi-Layer Neural Networks
di: Wang, Puyu, et al.
Pubblicazione: (2023) -
Activation-Descent Regularization for Input Optimization of ReLU Networks
di: Yu, Hongzhan, et al.
Pubblicazione: (2024) -
N-ReLU: Zero-Mean Stochastic Extension of ReLU
di: Manik, Md Motaleb Hossen, et al.
Pubblicazione: (2025)