Make Haste Slowly: A Theory of Emergent Structured Mixed Selectivity in Feature Learning ReLU Networks
Fuente:
arXiv
Salvato in:
| Autori principali: | Jarvis, Devon, Klein, Richard, Rosman, Benjamin, Saxe, Andrew M. |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
On The Specialization of Neural Modules
di: Jarvis, Devon, et al.
Pubblicazione: (2024)
di: Jarvis, Devon, et al.
Pubblicazione: (2024)
Revisiting the Role of Relearning in Semantic Dementia
di: Jarvis, Devon, et al.
Pubblicazione: (2025)
di: Jarvis, Devon, et al.
Pubblicazione: (2025)
When Are Bias-Free ReLU Networks Effectively Linear Networks?
di: Zhang, Yedi, et al.
Pubblicazione: (2024)
di: Zhang, Yedi, et al.
Pubblicazione: (2024)
Discrete Functional Geometry of ReLU Networks via ReLU Transition Graphs
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
The Geometry of ReLU Networks through the ReLU Transition Graph
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)
Position: the Stochastic Parrot in the Coal Mine. Model Collapse is a Threat to Low-Resource Communities
di: Jarvis, Devon, et al.
Pubblicazione: (2026)
di: Jarvis, Devon, et al.
Pubblicazione: (2026)
N-ReLU: Zero-Mean Stochastic Extension of ReLU
di: Manik, Md Motaleb Hossen, et al.
Pubblicazione: (2025)
di: Manik, Md Motaleb Hossen, et al.
Pubblicazione: (2025)
The Resurrection of the ReLU
di: Horuz, Coşku Can, et al.
Pubblicazione: (2025)
di: Horuz, Coşku Can, et al.
Pubblicazione: (2025)
Skill Machines: Temporal Logic Skill Composition in Reinforcement Learning
di: Tasse, Geraud Nangue, et al.
Pubblicazione: (2022)
di: Tasse, Geraud Nangue, et al.
Pubblicazione: (2022)
Noisy Interpolation Learning with Shallow Univariate ReLU Networks
di: Joshi, Nirmit, et al.
Pubblicazione: (2023)
di: Joshi, Nirmit, et al.
Pubblicazione: (2023)
Pathwise Explanation of ReLU Neural Networks
di: Lim, Seongwoo, et al.
Pubblicazione: (2025)
di: Lim, Seongwoo, et al.
Pubblicazione: (2025)
Injectivity of ReLU-layers: Tools from Frame Theory
di: Haider, Daniel, et al.
Pubblicazione: (2024)
di: Haider, Daniel, et al.
Pubblicazione: (2024)
ReLU Networks as Random Functions: Their Distribution in Probability Space
di: Chaudhari, Shreyas, et al.
Pubblicazione: (2025)
di: Chaudhari, Shreyas, et al.
Pubblicazione: (2025)
Optimal Sets and Solution Paths of ReLU Networks
di: Mishkin, Aaron, et al.
Pubblicazione: (2023)
di: Mishkin, Aaron, et al.
Pubblicazione: (2023)
On Size-Independent Sample Complexity of ReLU Networks
di: Sellke, Mark
Pubblicazione: (2023)
di: Sellke, Mark
Pubblicazione: (2023)
Online Realizable Regression and Applications for ReLU Networks
di: Doron-Arad, Ilan, et al.
Pubblicazione: (2026)
di: Doron-Arad, Ilan, et al.
Pubblicazione: (2026)
Convexity in ReLU Neural Networks: beyond ICNNs?
di: Gagneux, Anne, et al.
Pubblicazione: (2025)
di: Gagneux, Anne, et al.
Pubblicazione: (2025)
SurvReLU: Inherently Interpretable Survival Analysis via Deep ReLU Networks
di: Sun, Xiaotong, et al.
Pubblicazione: (2024)
di: Sun, Xiaotong, et al.
Pubblicazione: (2024)
The Effects of Multi-Task Learning on ReLU Neural Network Functions
di: Nakhleh, Julia, et al.
Pubblicazione: (2024)
di: Nakhleh, Julia, et al.
Pubblicazione: (2024)
Stochastic Bandits with ReLU Neural Networks
di: Xu, Kan, et al.
Pubblicazione: (2024)
di: Xu, Kan, et al.
Pubblicazione: (2024)
On Space Folds of ReLU Neural Networks
di: Lewandowski, Michal, et al.
Pubblicazione: (2025)
di: Lewandowski, Michal, et al.
Pubblicazione: (2025)
A Theory of Initialisation's Impact on Specialisation
di: Jarvis, Devon, et al.
Pubblicazione: (2025)
di: Jarvis, Devon, et al.
Pubblicazione: (2025)
ReLU-KAN: New Kolmogorov-Arnold Networks that Only Need Matrix Addition, Dot Multiplication, and ReLU
di: Qiu, Qi, et al.
Pubblicazione: (2024)
di: Qiu, Qi, et al.
Pubblicazione: (2024)
Topological Expressivity of ReLU Neural Networks
di: Ergen, Ekin, et al.
Pubblicazione: (2023)
di: Ergen, Ekin, et al.
Pubblicazione: (2023)
Three Quantization Regimes for ReLU Networks
di: Ou, Weigutian, et al.
Pubblicazione: (2024)
di: Ou, Weigutian, et al.
Pubblicazione: (2024)
Hidden Minima in Two-Layer ReLU Networks
di: Arjevani, Yossi
Pubblicazione: (2023)
di: Arjevani, Yossi
Pubblicazione: (2023)
On the Local Complexity of Linear Regions in Deep ReLU Networks
di: Patel, Niket, et al.
Pubblicazione: (2024)
di: Patel, Niket, et al.
Pubblicazione: (2024)
Implicit Hypersurface Approximation Capacity in Deep ReLU Networks
di: Vallin, Jonatan, et al.
Pubblicazione: (2024)
di: Vallin, Jonatan, et al.
Pubblicazione: (2024)
Training a Two Layer ReLU Network Analytically
di: Barbu, Adrian
Pubblicazione: (2023)
di: Barbu, Adrian
Pubblicazione: (2023)
Hamiltonian Monte Carlo on ReLU Neural Networks is Inefficient
di: Dinh, Vu C., et al.
Pubblicazione: (2024)
di: Dinh, Vu C., et al.
Pubblicazione: (2024)
Implicit Regularization Towards Rank Minimization in ReLU Networks
di: Timor, Nadav, et al.
Pubblicazione: (2022)
di: Timor, Nadav, et al.
Pubblicazione: (2022)
The Symmetries of Three-Layer ReLU Networks
di: Gegenfurtner, Johanna Marie, et al.
Pubblicazione: (2026)
di: Gegenfurtner, Johanna Marie, et al.
Pubblicazione: (2026)
Brownian ReLU(Br-ReLU): A New Activation Function for a Long-Short Term Memory (LSTM) Network
di: Awiakye-Marfo, George, et al.
Pubblicazione: (2026)
di: Awiakye-Marfo, George, et al.
Pubblicazione: (2026)
Complexity of One-Dimensional ReLU DNNs
di: Kogan, Jonathan, et al.
Pubblicazione: (2025)
di: Kogan, Jonathan, et al.
Pubblicazione: (2025)
Symmetric Matrix Completion with ReLU Sampling
di: Liu, Huikang, et al.
Pubblicazione: (2024)
di: Liu, Huikang, et al.
Pubblicazione: (2024)
A Depth Hierarchy for Computing the Maximum in ReLU Networks via Extremal Graph Theory
di: Safran, Itay
Pubblicazione: (2026)
di: Safran, Itay
Pubblicazione: (2026)
Random ReLU Neural Networks as Non-Gaussian Processes
di: Parhi, Rahul, et al.
Pubblicazione: (2024)
di: Parhi, Rahul, et al.
Pubblicazione: (2024)
Topological Signatures of ReLU Neural Network Activation Patterns
di: Bosca, Vicente, et al.
Pubblicazione: (2025)
di: Bosca, Vicente, et al.
Pubblicazione: (2025)
Neural Collapse for Cross-entropy Class-Imbalanced Learning with Unconstrained ReLU Feature Model
di: Dang, Hien, et al.
Pubblicazione: (2024)
di: Dang, Hien, et al.
Pubblicazione: (2024)
ReLU Networks for Exact Generation of Similar Graphs
di: Ghafoor, Mamoona, et al.
Pubblicazione: (2026)
di: Ghafoor, Mamoona, et al.
Pubblicazione: (2026)
Documenti analoghi
-
On The Specialization of Neural Modules
di: Jarvis, Devon, et al.
Pubblicazione: (2024) -
Revisiting the Role of Relearning in Semantic Dementia
di: Jarvis, Devon, et al.
Pubblicazione: (2025) -
When Are Bias-Free ReLU Networks Effectively Linear Networks?
di: Zhang, Yedi, et al.
Pubblicazione: (2024) -
Discrete Functional Geometry of ReLU Networks via ReLU Transition Graphs
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025) -
The Geometry of ReLU Networks through the ReLU Transition Graph
di: Dhayalkar, Sahil Rajesh
Pubblicazione: (2025)