Buchumschlag

Scaling Laws and Tradeoffs in Recurrent Networks of Expressive Neurons

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Spieler, Aaron, Martius, Georg, Levina, Anna
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence Information Theory Neural and Evolutionary Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks
von: Spieler, Aaron, et al.
Veröffentlicht: (2023)

Learning Sequence Attractors in Recurrent Networks with Hidden Neurons
von: Lu, Yao, et al.
Veröffentlicht: (2024)

Supercharging Simulation-Based Inference for Bayesian Optimal Experimental Design
von: Klein, Samuel, et al.
Veröffentlicht: (2026)

Fast Fourier Transform-Based Spectral and Temporal Gradient Filtering for Differential Privacy
von: Shin, Hyeju, et al.
Veröffentlicht: (2025)

LASER: Linear Compression in Wireless Distributed Optimization
von: Makkuva, Ashok Vardhan, et al.
Veröffentlicht: (2023)

No One-Size-Fits-All Neurons: Task-based Neurons for Artificial Neural Networks
von: Fan, Feng-Lei, et al.
Veröffentlicht: (2024)

Neuromorphic Wireless Split Computing with Resonate-and-Fire Neurons
von: Wu, Dengyu, et al.
Veröffentlicht: (2025)

On the Expressivity of Recurrent Neural Cascades with Identity
von: Knorozova, Nadezda Alexandrovna, et al.
Veröffentlicht: (2024)

PAGE: Prototype-Based Model-Level Explanations for Graph Neural Networks
von: Shin, Yong-Min, et al.
Veröffentlicht: (2022)

IM-META: Influence Maximization Using Node Metadata in Networks With Unknown Topology
von: Tran, Cong, et al.
Veröffentlicht: (2021)

A Resource Model For Neural Scaling Law
von: Song, Jinyeop, et al.
Veröffentlicht: (2024)

Faithful and Accurate Self-Attention Attribution for Message Passing Neural Networks via the Computation Tree Viewpoint
von: Shin, Yong-Min, et al.
Veröffentlicht: (2024)

Sequencing the Neurome: Towards Scalable Exact Parameter Reconstruction of Black-Box Neural Networks
von: Goldfeder, Judah, et al.
Veröffentlicht: (2024)

GRSN: Gated Recurrent Spiking Neurons for POMDPs and MARL
von: Qin, Lang, et al.
Veröffentlicht: (2024)

Toward Efficient Deep Spiking Neuron Networks:A Survey On Compression
von: Xie, Hui, et al.
Veröffentlicht: (2024)

Fuzzy Recurrent Stochastic Configuration Networks for Industrial Data Analytics
von: Wang, Dianhui, et al.
Veröffentlicht: (2024)

Advancing Direct Training for Spiking Neural Networks with Circulate-Firing Neurons and Learnable Gradients
von: Zhou, Feifan, et al.
Veröffentlicht: (2026)

Scalable Learning in Structured Recurrent Spiking Neural Networks without Backpropagation
von: Tang, Bo, et al.
Veröffentlicht: (2026)

A Scalable Hybrid Training Approach for Recurrent Spiking Neural Networks
von: Baronig, Maximilian, et al.
Veröffentlicht: (2025)

A Little Confidence Goes a Long Way
von: Scoville, John, et al.
Veröffentlicht: (2024)

Neuron-centric Hebbian Learning
von: Ferigo, Andrea, et al.
Veröffentlicht: (2024)

Learning from Emergence: A Study on Proactively Inhibiting the Monosemantic Neurons of Artificial Neural Networks
von: Wang, Jiachuan, et al.
Veröffentlicht: (2023)

Quantized Approximately Orthogonal Recurrent Neural Networks
von: Foucault, Armand, et al.
Veröffentlicht: (2024)

Drawback of Enforcing Equivariance and its Compensation via the Lens of Expressive Power
von: Chen, Yuzhu, et al.
Veröffentlicht: (2025)

Recurrent Neural Networks Learn to Store and Generate Sequences using Non-Linear Representations
von: Csordás, Róbert, et al.
Veröffentlicht: (2024)

On the Feasibility of Fidelity$^-$ for Graph Pruning
von: Shin, Yong-Min, et al.
Veröffentlicht: (2024)

Error-margin Analysis for Hidden Neuron Activation Labels
von: Dalal, Abhilekha, et al.
Veröffentlicht: (2024)

Investigating Recurrent Transformers with Dynamic Halt
von: Chowdhury, Jishnu Ray, et al.
Veröffentlicht: (2024)

On The Expressivity of Recurrent Neural Cascades
von: Knorozova, Nadezda Alexandrovna, et al.
Veröffentlicht: (2023)

Measuring and Controlling Solution Degeneracy across Task-Trained Recurrent Neural Networks
von: Huang, Ann, et al.
Veröffentlicht: (2024)

Universal Neurons in GPT-2: Emergence, Persistence, and Functional Impact
von: Nandan, Advey, et al.
Veröffentlicht: (2025)

ShiftLIF: Efficient Multi-Level Spiking Neurons with Power-of-Two Quantization
von: Tang, Kaiwen, et al.
Veröffentlicht: (2026)

MID-L: Matrix-Interpolated Dropout Layer with Layer-wise Neuron Selection
von: Shaeri, Pouya, et al.
Veröffentlicht: (2025)

SNAP: Stopping Catastrophic Forgetting in Hebbian Learning with Sigmoidal Neuronal Adaptive Plasticity
von: Xu, Tianyi, et al.
Veröffentlicht: (2024)

Mamba-PTQ: Outlier Channels in Recurrent Large Language Models
von: Pierro, Alessandro, et al.
Veröffentlicht: (2024)

Learning Discretized Neural Networks under Ricci Flow
von: Chen, Jun, et al.
Veröffentlicht: (2023)

Information Consistent Pruning: How to Efficiently Search for Sparse Networks?
von: Gharatappeh, Soheil, et al.
Veröffentlicht: (2025)

Parallelization of Non-linear State-Space Models: Scaling Up Liquid-Resistance Liquid-Capacitance Networks for Efficient Sequence Modeling
von: Farsang, Mónika, et al.
Veröffentlicht: (2025)

Recurrent Auto-Encoder Model for Large-Scale Industrial Sensor Signal Analysis
von: Wong, Timothy, et al.
Veröffentlicht: (2018)

Predictive Associative Memory: Retrieval Beyond Similarity Through Temporal Co-occurrence
von: Dury, Jason
Veröffentlicht: (2026)