Buchumschlag

ReLU-KAN: New Kolmogorov-Arnold Networks that Only Need Matrix Addition, Dot Multiplication, and ReLU

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Qiu, Qi, Zhu, Tao, Gong, Helin, Chen, Liming, Ning, Huansheng
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Neural and Evolutionary Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

The Geometry of ReLU Networks through the ReLU Transition Graph
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)

On Space Folds of ReLU Neural Networks
von: Lewandowski, Michal, et al.
Veröffentlicht: (2025)

Competition-based Adaptive ReLU for Deep Neural Networks
von: Chen, Junjia, et al.
Veröffentlicht: (2024)

From Tempered to Benign Overfitting in ReLU Neural Networks
von: Kornowski, Guy, et al.
Veröffentlicht: (2023)

On the Depth of Monotone ReLU Neural Networks and ICNNs
von: Bakaev, Egor, et al.
Veröffentlicht: (2025)

Causal Explanations from the Geometric Properties of ReLU Neural Networks
von: Woods, Hector, et al.
Veröffentlicht: (2026)

Towards Lower Bounds on the Depth of ReLU Neural Networks
von: Hertrich, Christoph, et al.
Veröffentlicht: (2021)

Expressivity and Approximation Properties of Deep Neural Networks with ReLU$^k$ Activation
von: He, Juncai, et al.
Veröffentlicht: (2023)

Provable Unlearning with Gradient Ascent on Two-Layer ReLU Neural Networks
von: Melamed, Odelia, et al.
Veröffentlicht: (2025)

Geometry-induced Regularization in Deep ReLU Neural Networks
von: Bona-Pellissier, Joachim, et al.
Veröffentlicht: (2024)

Deep Learning using Rectified Linear Units (ReLU)
von: Agarap, Abien Fred
Veröffentlicht: (2018)

The Computational Complexity of Counting Linear Regions in ReLU Neural Networks
von: Stargalla, Moritz, et al.
Veröffentlicht: (2025)

Sign Gradient Descent-based Neuronal Dynamics: ANN-to-SNN Conversion Beyond ReLU Network
von: Oh, Hyunseok, et al.
Veröffentlicht: (2024)

Zorro: A Flexible and Differentiable Parametric Family of Activation Functions That Extends ReLU and GELU
von: Roodschild, Matias, et al.
Veröffentlicht: (2024)

Robustness of Deep ReLU Networks to Misclassification of High-Dimensional Data
von: Kůrková, Věra
Veröffentlicht: (2026)

ReLU Neural Networks of Polynomial Size for Exact Maximum Flow Computation
von: Hertrich, Christoph, et al.
Veröffentlicht: (2021)

Approximation Rates and VC-Dimension Bounds for (P)ReLU MLP Mixture of Experts
von: Kratsios, Anastasis, et al.
Veröffentlicht: (2024)

Efficient Approximation to Analytic and $L^p$ functions by Height-Augmented ReLU Networks
von: Li, ZeYu, et al.
Veröffentlicht: (2026)

On the Principles of ReLU Networks with One Hidden Layer
von: Huang, Changcun
Veröffentlicht: (2024)

Sharp Lower Bounds on Interpolation by Deep ReLU Neural Networks at Irregularly Spaced Data
von: Siegel, Jonathan W.
Veröffentlicht: (2023)

APTx: better activation function than MISH, SWISH, and ReLU's variants used in deep learning
von: Kumar, Ravin
Veröffentlicht: (2022)

A Significantly Better Class of Activation Functions Than ReLU Like Activation Functions
von: Noel, Mathew Mithra, et al.
Veröffentlicht: (2024)

Injectivity capacity of ReLU gates
von: Stojnic, Mihailo
Veröffentlicht: (2024)

rKAN: Rational Kolmogorov-Arnold Networks
von: Aghaei, Alireza Afzal
Veröffentlicht: (2024)

Bridging the Gap Between Approximation and Learning via Optimal Approximation by ReLU MLPs of Maximal Regularity
von: Hong, Ruiyang, et al.
Veröffentlicht: (2024)

Higher-order-ReLU-KANs (HRKANs) for solving physics-informed neural networks (PINNs) more accurately, robustly and faster
von: So, Chi Chiu, et al.
Veröffentlicht: (2024)

Continuous Specialization Transition in the Soft Committee Machine with ReLU Activation
von: Afanah, Assem, et al.
Veröffentlicht: (2026)

Injectivity of ReLU networks: perspectives from statistical physics
von: Maillard, Antoine, et al.
Veröffentlicht: (2023)

LeanKAN: A Parameter-Lean Kolmogorov-Arnold Network Layer with Improved Memory Efficiency and Convergence Behavior
von: Koenig, Benjamin C., et al.
Veröffentlicht: (2025)

Deep ReLU networks -- injectivity capacity upper bounds
von: Stojnic, Mihailo
Veröffentlicht: (2024)

LTBs-KAN: Linear-Time B-splines Kolmogorov-Arnold Networks
von: Merin-Martinez, Eduardo Said, et al.
Veröffentlicht: (2026)

Relating Piecewise Linear Kolmogorov Arnold Networks to ReLU Networks
von: Schoots, Nandi, et al.
Veröffentlicht: (2025)

P1-KAN: an effective Kolmogorov-Arnold network with application to hydraulic valley optimization
von: Warin, Xavier
Veröffentlicht: (2024)

A First Look at Kolmogorov-Arnold Networks in Surrogate-assisted Evolutionary Algorithms
von: Hao, Hao, et al.
Veröffentlicht: (2024)

MonoKAN: Certified Monotonic Kolmogorov-Arnold Network
von: Polo-Molina, Alejandro, et al.
Veröffentlicht: (2024)

Generalization Bounds and Model Complexity for Kolmogorov-Arnold Networks
von: Zhang, Xianyang, et al.
Veröffentlicht: (2024)

N-ReLU: Zero-Mean Stochastic Extension of ReLU
von: Manik, Md Motaleb Hossen, et al.
Veröffentlicht: (2025)

A Gated Residual Kolmogorov-Arnold Networks for Mixtures of Experts
von: Inzirillo, Hugo, et al.
Veröffentlicht: (2024)

X-KAN: Optimizing Local Kolmogorov-Arnold Networks via Evolutionary Rule-Based Machine Learning
von: Shiraishi, Hiroki, et al.
Veröffentlicht: (2025)

Discrete Functional Geometry of ReLU Networks via ReLU Transition Graphs
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2025)