Buchumschlag

Recurrent Neural Networks Learn to Store and Generate Sequences using Non-Linear Representations

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Csordás, Róbert, Potts, Christopher, Manning, Christopher D., Geiger, Atticus
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence Neural and Evolutionary Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Do Language Models Use Their Depth Efficiently?
von: Csordás, Róbert, et al.
Veröffentlicht: (2025)

MoEUT: Mixture-of-Experts Universal Transformers
von: Csordás, Róbert, et al.
Veröffentlicht: (2024)

Evaluating Open-Source Sparse Autoencoders on Disentangling Factual Knowledge in GPT-2 Small
von: Chaudhary, Maheep, et al.
Veröffentlicht: (2024)

Thoughtbubbles: an Unsupervised Method for Parallel Thinking in Latent Space
von: Liu, Houjun, et al.
Veröffentlicht: (2025)

Learning Sequence Attractors in Recurrent Networks with Hidden Neurons
von: Lu, Yao, et al.
Veröffentlicht: (2024)

A Scalable Hybrid Training Approach for Recurrent Spiking Neural Networks
von: Baronig, Maximilian, et al.
Veröffentlicht: (2025)

Scalable Learning in Structured Recurrent Spiking Neural Networks without Backpropagation
von: Tang, Bo, et al.
Veröffentlicht: (2026)

Enhancing Graph Representation Learning with Attention-Driven Spiking Neural Networks
von: Yin, Huifeng, et al.
Veröffentlicht: (2024)

Invariant Representations with Stochastically Quantized Neural Networks
von: Cerrato, Mattia, et al.
Veröffentlicht: (2022)

On Non-Linear operators for Geometric Deep Learning
von: Sergeant-Perthuis, Grégoire, et al.
Veröffentlicht: (2022)

SiGNN: A Spike-induced Graph Neural Network for Dynamic Graph Representation Learning
von: Chen, Dong, et al.
Veröffentlicht: (2024)

Enhancing Neural Network Representations with Prior Knowledge-Based Normalization
von: Faye, Bilal, et al.
Veröffentlicht: (2024)

Statistical Properties of the King Wen Sequence: An Anti-Habituation Structure That Does Not Improve Neural Network Training
von: Chan, Augustin
Veröffentlicht: (2026)

Adversarially Robust Spiking Neural Networks Through Conversion
von: Özdenizci, Ozan, et al.
Veröffentlicht: (2023)

Machine Unlearning using Forgetting Neural Networks
von: Hatua, Amartya, et al.
Veröffentlicht: (2024)

Fuzzy Recurrent Stochastic Configuration Networks for Industrial Data Analytics
von: Wang, Dianhui, et al.
Veröffentlicht: (2024)

Implicit Regularization via Spectral Neural Networks and Non-linear Matrix Sensing
von: Chu, Hong T. M., et al.
Veröffentlicht: (2024)

Multi-scale Topology Optimization using Neural Networks
von: Chen, Hongrui, et al.
Veröffentlicht: (2024)

Half-Space Feature Learning in Neural Networks
von: Yadav, Mahesh Lorik, et al.
Veröffentlicht: (2024)

Mechanistic Neural Networks for Scientific Machine Learning
von: Pervez, Adeel, et al.
Veröffentlicht: (2024)

Parallelization of Non-linear State-Space Models: Scaling Up Liquid-Resistance Liquid-Capacitance Networks for Efficient Sequence Modeling
von: Farsang, Mónika, et al.
Veröffentlicht: (2025)

Topological Representations of Heterogeneous Learning Dynamics of Recurrent Spiking Neural Networks
von: Chakraborty, Biswadeep, et al.
Veröffentlicht: (2024)

Parallel Algorithms for Exact Enumeration of Deep Neural Network Activation Regions
von: Drammis, Sabrina, et al.
Veröffentlicht: (2024)

AlphaGrad: Non-Linear Gradient Normalization Optimizer
von: Sane, Soham
Veröffentlicht: (2025)

Meta-Learning Loss Functions for Deep Neural Networks
von: Raymond, Christian
Veröffentlicht: (2024)

Training Neural Networks with Optimal Double-Bayesian Learning
von: Bui, Vy, et al.
Veröffentlicht: (2026)

Learning Active Subspaces and Discovering Important Features with Gaussian Radial Basis Functions Neural Networks
von: D'Agostino, Danny, et al.
Veröffentlicht: (2023)

Which Algorithms Can Graph Neural Networks Learn?
von: Wittig, Solveig, et al.
Veröffentlicht: (2026)

LLS: Local Learning Rule for Deep Neural Networks Inspired by Neural Activity Synchronization
von: Apolinario, Marco Paul E., et al.
Veröffentlicht: (2024)

Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks
von: Xiao, Mingqing, et al.
Veröffentlicht: (2024)

The Enduring Dominance of Deep Neural Networks: A Critical Analysis of the Fundamental Limitations of Quantum Machine Learning and Spiking Neural Networks
von: Ishikawa, Takehiro
Veröffentlicht: (2025)

Quantum-Evolutionary Neural Networks for Multi-Agent Federated Learning
von: Lala, Aarav, et al.
Veröffentlicht: (2025)

TACOS: Task Agnostic Continual Learning in Spiking Neural Networks
von: Soures, Nicholas, et al.
Veröffentlicht: (2024)

Structurally Flexible Neural Networks: Evolving the Building Blocks for General Agents
von: Pedersen, Joachim Winther, et al.
Veröffentlicht: (2024)

The Robustness of Spiking Neural Networks in Communication and its Application towards Network Efficiency in Federated Learning
von: Nguyen, Manh V., et al.
Veröffentlicht: (2024)

Perception-Informed Neural Networks: Beyond Physics-Informed Neural Networks
von: Mazandarani, Mehran, et al.
Veröffentlicht: (2025)

CTRQNets & LQNets: Continuous Time Recurrent and Liquid Quantum Neural Networks
von: Mayorga, Alejandro Antonio, et al.
Veröffentlicht: (2024)

Towards graph neural networks for provably solving convex optimization problems
von: Qian, Chendi, et al.
Veröffentlicht: (2025)

MTSpark: Enabling Multi-Task Learning with Spiking Neural Networks for Generalist Agents
von: Devkota, Avaneesh, et al.
Veröffentlicht: (2024)

On the Improvement of Generalization and Stability of Forward-Only Learning via Neural Polarization
von: Terres-Escudero, Erik B., et al.
Veröffentlicht: (2024)