Buchumschlag

Stable Minima of ReLU Neural Networks Suffer from the Curse of Dimensionality: The Neural Shattering Phenomenon

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liang, Tongtong, Qiao, Dan, Wang, Yu-Xiang, Parhi, Rahul
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Stable Minima Cannot Overfit in Univariate ReLU Networks: Generalization by Large Step Sizes
von: Qiao, Dan, et al.
Veröffentlicht: (2024)

Random ReLU Neural Networks as Non-Gaussian Processes
von: Parhi, Rahul, et al.
Veröffentlicht: (2024)

Hidden Minima in Two-Layer ReLU Networks
von: Arjevani, Yossi
Veröffentlicht: (2023)

Does Flatness imply Generalization for Logistic Loss in Univariate Two-Layer ReLU Network?
von: Qiao, Dan, et al.
Veröffentlicht: (2025)

Weighted variation spaces and approximation by shallow ReLU networks
von: DeVore, Ronald, et al.
Veröffentlicht: (2023)

Pathwise Explanation of ReLU Neural Networks
von: Lim, Seongwoo, et al.
Veröffentlicht: (2025)

Convexity in ReLU Neural Networks: beyond ICNNs?
von: Gagneux, Anne, et al.
Veröffentlicht: (2025)

On Space Folds of ReLU Neural Networks
von: Lewandowski, Michal, et al.
Veröffentlicht: (2025)

Stochastic Bandits with ReLU Neural Networks
von: Xu, Kan, et al.
Veröffentlicht: (2024)

Topological Expressivity of ReLU Neural Networks
von: Ergen, Ekin, et al.
Veröffentlicht: (2023)

Hamiltonian Monte Carlo on ReLU Neural Networks is Inefficient
von: Dinh, Vu C., et al.
Veröffentlicht: (2024)

Dense ReLU Neural Networks for Temporal-spatial Model
von: Padilla, Carlos Misael Madrid, et al.
Veröffentlicht: (2024)

Complexity of Injectivity and Verification of ReLU Neural Networks
von: Froese, Vincent, et al.
Veröffentlicht: (2024)

Sharpness of Minima in Deep Matrix Factorization
von: Kamber, Anil, et al.
Veröffentlicht: (2025)

On the Expressiveness of Rational ReLU Neural Networks With Bounded Depth
von: Averkov, Gennadiy, et al.
Veröffentlicht: (2025)

Neural Characteristic Activation Analysis and Geometric Parameterization for ReLU Networks
von: Chen, Wenlin, et al.
Veröffentlicht: (2023)

The Effects of Multi-Task Learning on ReLU Neural Network Functions
von: Nakhleh, Julia, et al.
Veröffentlicht: (2024)

On the Depth of Monotone ReLU Neural Networks and ICNNs
von: Bakaev, Egor, et al.
Veröffentlicht: (2025)

Discrete Functional Geometry of ReLU Networks via ReLU Transition Graphs
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)

From Tempered to Benign Overfitting in ReLU Neural Networks
von: Kornowski, Guy, et al.
Veröffentlicht: (2023)

Complexity of One-Dimensional ReLU DNNs
von: Kogan, Jonathan, et al.
Veröffentlicht: (2025)

Causal Explanations from the Geometric Properties of ReLU Neural Networks
von: Woods, Hector, et al.
Veröffentlicht: (2026)

The Geometry of ReLU Networks through the ReLU Transition Graph
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)

N-ReLU: Zero-Mean Stochastic Extension of ReLU
von: Manik, Md Motaleb Hossen, et al.
Veröffentlicht: (2025)

Convex Formulations for Training Two-Layer ReLU Neural Networks
von: Prakhya, Karthik, et al.
Veröffentlicht: (2024)

Optimized Weight Initialization on the Stiefel Manifold for Deep ReLU Neural Networks
von: Lee, Hyungu, et al.
Veröffentlicht: (2025)

Some Super-approximation Rates of ReLU Neural Networks for Korobov Functions
von: Li, Yuwen, et al.
Veröffentlicht: (2025)

Generalization Below the Edge of Stability: The Role of Data Geometry
von: Liang, Tongtong, et al.
Veröffentlicht: (2025)

Topological Signatures of ReLU Neural Network Activation Patterns
von: Bosca, Vicente, et al.
Veröffentlicht: (2025)

Large Deviations of Gaussian Neural Networks with ReLU activation
von: Vogel, Quirin
Veröffentlicht: (2024)

Towards Lower Bounds on the Depth of ReLU Neural Networks
von: Hertrich, Christoph, et al.
Veröffentlicht: (2021)

Does Sparse Connectivity Improve Generalization? Convolutional Networks Below the Edge of Stability
von: Liang, Tongtong, et al.
Veröffentlicht: (2026)

Provable Accelerated Convergence of Nesterov's Momentum for Deep ReLU Neural Networks
von: Liao, Fangshuo, et al.
Veröffentlicht: (2023)

Beyond ReLU: How Activations Affect Neural Kernels and Random Wide Networks
von: Holzmüller, David, et al.
Veröffentlicht: (2025)

Provable Multi-Task Representation Learning by Two-Layer ReLU Neural Networks
von: Collins, Liam, et al.
Veröffentlicht: (2023)

ConquerNet: Convolution-Smoothed Quantile ReLU Neural Networks with Minimax Guarantees
von: Luo, Tianpai, et al.
Veröffentlicht: (2026)

Geometry-induced Regularization in Deep ReLU Neural Networks
von: Bona-Pellissier, Joachim, et al.
Veröffentlicht: (2024)

The Resurrection of the ReLU
von: Horuz, Coşku Can, et al.
Veröffentlicht: (2025)

Depth Degeneracy in Neural Networks: Vanishing Angles in Fully Connected ReLU Networks on Initialization
von: Jakub, Cameron, et al.
Veröffentlicht: (2023)

Stability and Performance Analysis of Discrete-Time ReLU Recurrent Neural Networks
von: Noori, Sahel Vahedi, et al.
Veröffentlicht: (2024)