Buchumschlag

Approximating Simple ReLU Networks based on Spectral Decomposition of Fisher Information

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ho, Ka Long Keith, Takeishi, Yoshinari, Takeuchi, Junichi
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Neural Tangent Kernels and Fisher Information Matrices for Simple ReLU Networks with Random Hidden Weights
von: Takeuchi, Jun'ichi, et al.
Veröffentlicht: (2025)

Risk Bounds on MDL Estimators for Linear Regression Models with Application to Simple ReLU Neural Networks
von: Takeishi, Yoshinari, et al.
Veröffentlicht: (2024)

Discrete Functional Geometry of ReLU Networks via ReLU Transition Graphs
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)

Implicit Hypersurface Approximation Capacity in Deep ReLU Networks
von: Vallin, Jonatan, et al.
Veröffentlicht: (2024)

The Geometry of ReLU Networks through the ReLU Transition Graph
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)

Deep Network Approximation: Beyond ReLU to Diverse Activation Functions
von: Zhang, Shijun, et al.
Veröffentlicht: (2023)

Hamiltonian Monte Carlo on ReLU Neural Networks is Inefficient
von: Dinh, Vu C., et al.
Veröffentlicht: (2024)

N-ReLU: Zero-Mean Stochastic Extension of ReLU
von: Manik, Md Motaleb Hossen, et al.
Veröffentlicht: (2025)

An Efficient Alternating Algorithm for ReLU-based Symmetric Matrix Decomposition
von: Wang, Qingsong
Veröffentlicht: (2025)

An Accelerated Alternating Partial Bregman Algorithm for ReLU-based Matrix Decomposition
von: Wang, Qingsong, et al.
Veröffentlicht: (2025)

On Polynomial Approximations for Privacy-Preserving and Verifiable ReLU Networks
von: Ali, Ramy E., et al.
Veröffentlicht: (2020)

Sobolev Approximation of Deep ReLU Networks in Log-Barron Space
von: Song, Changhoon, et al.
Veröffentlicht: (2026)

Deep ReLU Networks Have Surprisingly Simple Polytopes
von: Fan, Feng-Lei, et al.
Veröffentlicht: (2023)

The Resurrection of the ReLU
von: Horuz, Coşku Can, et al.
Veröffentlicht: (2025)

A Momentum Accelerated Algorithm for ReLU-based Nonlinear Matrix Decomposition
von: Wang, Qingsong, et al.
Veröffentlicht: (2024)

Pathwise Explanation of ReLU Neural Networks
von: Lim, Seongwoo, et al.
Veröffentlicht: (2025)

Convexity in ReLU Neural Networks: beyond ICNNs?
von: Gagneux, Anne, et al.
Veröffentlicht: (2025)

Optimal Sets and Solution Paths of ReLU Networks
von: Mishkin, Aaron, et al.
Veröffentlicht: (2023)

On Size-Independent Sample Complexity of ReLU Networks
von: Sellke, Mark
Veröffentlicht: (2023)

Online Realizable Regression and Applications for ReLU Networks
von: Doron-Arad, Ilan, et al.
Veröffentlicht: (2026)

SurvReLU: Inherently Interpretable Survival Analysis via Deep ReLU Networks
von: Sun, Xiaotong, et al.
Veröffentlicht: (2024)

On Space Folds of ReLU Neural Networks
von: Lewandowski, Michal, et al.
Veröffentlicht: (2025)

Stochastic Bandits with ReLU Neural Networks
von: Xu, Kan, et al.
Veröffentlicht: (2024)

ReLU-KAN: New Kolmogorov-Arnold Networks that Only Need Matrix Addition, Dot Multiplication, and ReLU
von: Qiu, Qi, et al.
Veröffentlicht: (2024)

Convex Approximation of Two-Layer ReLU Networks for Hidden State Differential Privacy
von: Romijnders, Rob, et al.
Veröffentlicht: (2024)

Convex Relaxations of ReLU Neural Networks Approximate Global Optima in Polynomial Time
von: Kim, Sungyoon, et al.
Veröffentlicht: (2024)

Topological Expressivity of ReLU Neural Networks
von: Ergen, Ekin, et al.
Veröffentlicht: (2023)

Three Quantization Regimes for ReLU Networks
von: Ou, Weigutian, et al.
Veröffentlicht: (2024)

Fast Convex Optimization for Two-Layer ReLU Networks: Equivalent Model Classes and Cone Decompositions
von: Mishkin, Aaron, et al.
Veröffentlicht: (2022)

Sharp Lower Bounds for Linearized ReLU^k Approximation on the Sphere
von: Mao, Tong, et al.
Veröffentlicht: (2025)

Higher Order Approximation Rates for ReLU CNNs in Korobov Spaces
von: Li, Yuwen, et al.
Veröffentlicht: (2025)

Expressivity and Approximation Properties of Deep Neural Networks with ReLU$^k$ Activation
von: He, Juncai, et al.
Veröffentlicht: (2023)

Hidden Minima in Two-Layer ReLU Networks
von: Arjevani, Yossi
Veröffentlicht: (2023)

ReLU Networks as Random Functions: Their Distribution in Probability Space
von: Chaudhari, Shreyas, et al.
Veröffentlicht: (2025)

On the Local Complexity of Linear Regions in Deep ReLU Networks
von: Patel, Niket, et al.
Veröffentlicht: (2024)

Noisy Interpolation Learning with Shallow Univariate ReLU Networks
von: Joshi, Nirmit, et al.
Veröffentlicht: (2023)

Training a Two Layer ReLU Network Analytically
von: Barbu, Adrian
Veröffentlicht: (2023)

Implicit Regularization Towards Rank Minimization in ReLU Networks
von: Timor, Nadav, et al.
Veröffentlicht: (2022)

The Symmetries of Three-Layer ReLU Networks
von: Gegenfurtner, Johanna Marie, et al.
Veröffentlicht: (2026)

Sparse Superposition Codes with Binomial Dictionary are Capacity-Achieving with Maximum Likelihood Decoding
von: Takeishi, Yoshinari, et al.
Veröffentlicht: (2025)