Buchumschlag

The Median is Easier than it Looks: Approximation with a Constant-Depth, Linear-Width ReLU Network

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Dutta, Abhigyan, Safran, Itay, Valiant, Paul
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Depth Hierarchy for Computing the Maximum in ReLU Networks via Extremal Graph Theory
von: Safran, Itay
Veröffentlicht: (2026)

Depth Separations in Neural Networks: Separating the Dimension from the Accuracy
von: Safran, Itay, et al.
Veröffentlicht: (2024)

N-ReLU: Zero-Mean Stochastic Extension of ReLU
von: Manik, Md Motaleb Hossen, et al.
Veröffentlicht: (2025)

Relating Piecewise Linear Kolmogorov Arnold Networks to ReLU Networks
von: Schoots, Nandi, et al.
Veröffentlicht: (2025)

The Geometry of ReLU Networks through the ReLU Transition Graph
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)

The Resurrection of the ReLU
von: Horuz, Coşku Can, et al.
Veröffentlicht: (2025)

Unveiling the Training Dynamics of ReLU Networks through a Linear Lens
von: Ye, Longqing
Veröffentlicht: (2025)

Pathwise Explanation of ReLU Neural Networks
von: Lim, Seongwoo, et al.
Veröffentlicht: (2025)

Three Quantization Regimes for ReLU Networks
von: Ou, Weigutian, et al.
Veröffentlicht: (2024)

A Lower Bound for the Number of Linear Regions of Ternary ReLU Regression Neural Networks
von: Nakahara, Yuta, et al.
Veröffentlicht: (2025)

Compelling ReLU Networks to Exhibit Exponentially Many Linear Regions at Initialization and During Training
von: Milkert, Max, et al.
Veröffentlicht: (2023)

Activation-Descent Regularization for Input Optimization of ReLU Networks
von: Yu, Hongzhan, et al.
Veröffentlicht: (2024)

ReLU Networks for Exact Generation of Similar Graphs
von: Ghafoor, Mamoona, et al.
Veröffentlicht: (2026)

Beyond ReLU: Chebyshev-DQN for Enhanced Deep Q-Networks
von: Yazdannik, Saman, et al.
Veröffentlicht: (2025)

Benign Overfitting for Regression with Trained Two-Layer ReLU Networks
von: Park, Junhyung, et al.
Veröffentlicht: (2024)

On the Rate of Convergence of GD in Non-linear Neural Networks: An Adversarial Robustness Perspective
von: Smorodinsky, Guy, et al.
Veröffentlicht: (2026)

Convergence of Shallow ReLU Networks on Weakly Interacting Data
von: Dana, Léo, et al.
Veröffentlicht: (2025)

Sufficient Conditions for Stability of Minimum-Norm Interpolating Deep ReLU Networks
von: Harzli, Ouns El, et al.
Veröffentlicht: (2026)

Expressive Power of ReLU and Step Networks under Floating-Point Operations
von: Park, Yeachan, et al.
Veröffentlicht: (2024)

Is ReLU Adversarially Robust?
von: Sooksatra, Korn, et al.
Veröffentlicht: (2024)

HiQ-Lip: A Hierarchical Quantum-Classical Method for Global Lipschitz Constant Estimation of ReLU Networks
von: He, Haoqi, et al.
Veröffentlicht: (2025)

RePO: Understanding Preference Learning Through ReLU-Based Optimization
von: Wu, Junkang, et al.
Veröffentlicht: (2025)

$λ$-GELU: Learning Gating Hardness for Controlled ReLU-ization in Deep Networks
von: Pérez-Corral, Cristian, et al.
Veröffentlicht: (2026)

Achieving Approximate Symmetry Is Exponentially Easier than Exact Symmetry
von: Tahmasebi, Behrooz, et al.
Veröffentlicht: (2025)

Precise Verification of Transformers through ReLU-Catalyzed Abstraction Refinement
von: Liu, Hengjie, et al.
Veröffentlicht: (2026)

Uncovering Layer-Dependent Activation Sparsity Patterns in ReLU Transformers
von: Wild, Cody, et al.
Veröffentlicht: (2024)

Detecting Invariant Manifolds in ReLU-Based RNNs
von: Eisenmann, Lukas, et al.
Veröffentlicht: (2025)

Topological Signatures of ReLU Neural Network Activation Patterns
von: Bosca, Vicente, et al.
Veröffentlicht: (2025)

Stable Minima Cannot Overfit in Univariate ReLU Networks: Generalization by Large Step Sizes
von: Qiao, Dan, et al.
Veröffentlicht: (2024)

Does Flatness imply Generalization for Logistic Loss in Univariate Two-Layer ReLU Network?
von: Qiao, Dan, et al.
Veröffentlicht: (2025)

No Prior, No Leakage: Revisiting Reconstruction Attacks in Trained Neural Networks
von: Refael, Yehonatan, et al.
Veröffentlicht: (2025)

Transformer Approximations from ReLUs
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2026)

ReLU$^2$ Wins: Discovering Efficient Activation Functions for Sparse LLMs
von: Zhang, Zhengyan, et al.
Veröffentlicht: (2024)

ReLU's Revival: On the Entropic Overload in Normalization-Free Large Language Models
von: Jha, Nandan Kumar, et al.
Veröffentlicht: (2024)

Deep ReLU Networks Have Surprisingly Simple Polytopes
von: Fan, Feng-Lei, et al.
Veröffentlicht: (2023)

Saddle-To-Saddle Dynamics in Deep ReLU Networks: Low-Rank Bias in the First Saddle Escape
von: Bantzis, Ioannis, et al.
Veröffentlicht: (2025)

The Cost of Robustness: Tighter Bounds on Parameter Complexity for Robust Memorization in ReLU Nets
von: Kim, Yujun, et al.
Veröffentlicht: (2025)

Algebraic Approach to Ridge-Regularized Mean Squared Error Minimization in Minimal ReLU Neural Network
von: Fukasaku, Ryoya, et al.
Veröffentlicht: (2025)

Geometry-induced Regularization in Deep ReLU Neural Networks
von: Bona-Pellissier, Joachim, et al.
Veröffentlicht: (2024)

Covering Numbers for Deep ReLU Networks with Applications to Function Approximation and Nonparametric Regression
von: Ou, Weigutian, et al.
Veröffentlicht: (2024)