Revisiting Bi-Linear State Transitions in Recurrent Neural Networks
Fuente:
arXiv
Salvato in:
| Autori principali: | Ebrahimi, M. Reza, Memisevic, Roland |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
On the "Induction Bias" in Sequence Models
di: Ebrahimi, M. Reza, et al.
Pubblicazione: (2026)
di: Ebrahimi, M. Reza, et al.
Pubblicazione: (2026)
Multi-Draft Speculative Sampling: Canonical Decomposition and Theoretical Limits
di: Khisti, Ashish, et al.
Pubblicazione: (2024)
di: Khisti, Ashish, et al.
Pubblicazione: (2024)
Your Context Is Not an Array: Unveiling Random Access Limitations in Transformers
di: Ebrahimi, MohammadReza, et al.
Pubblicazione: (2024)
di: Ebrahimi, MohammadReza, et al.
Pubblicazione: (2024)
Advancing Regular Language Reasoning in Linear Recurrent Neural Networks
di: Fan, Ting-Han, et al.
Pubblicazione: (2023)
di: Fan, Ting-Han, et al.
Pubblicazione: (2023)
Delayed Attention Training Improves Length Generalization in Transformer--RNN Hybrids
di: Phan, Buu, et al.
Pubblicazione: (2025)
di: Phan, Buu, et al.
Pubblicazione: (2025)
On the Representational Capacity of Recurrent Neural Language Models
di: Nowak, Franz, et al.
Pubblicazione: (2023)
di: Nowak, Franz, et al.
Pubblicazione: (2023)
Optimal Decay Spectra for Linear Recurrences
di: Cao, Yang
Pubblicazione: (2026)
di: Cao, Yang
Pubblicazione: (2026)
Automated SNOMED CT Concept Annotation in Clinical Text Using Bi-GRU Neural Networks
di: Noori, Ali, et al.
Pubblicazione: (2025)
di: Noori, Ali, et al.
Pubblicazione: (2025)
Griffin: Mixing Gated Linear Recurrences with Local Attention for Efficient Language Models
di: De, Soham, et al.
Pubblicazione: (2024)
di: De, Soham, et al.
Pubblicazione: (2024)
Hybrid Quantum-Classical Recurrent Neural Networks
di: Xu, Wenduan
Pubblicazione: (2025)
di: Xu, Wenduan
Pubblicazione: (2025)
Dissecting Linear Recurrent Models: How Different Gating Strategies Drive Selectivity and Generalization
di: Bouhadjar, Younes, et al.
Pubblicazione: (2026)
di: Bouhadjar, Younes, et al.
Pubblicazione: (2026)
VisualRWKV: Exploring Recurrent Neural Networks for Visual Language Models
di: Hou, Haowen, et al.
Pubblicazione: (2024)
di: Hou, Haowen, et al.
Pubblicazione: (2024)
Depression detection from Social Media Bangla Text Using Recurrent Neural Networks
di: Ahmed, Sultan, et al.
Pubblicazione: (2024)
di: Ahmed, Sultan, et al.
Pubblicazione: (2024)
Associative-State Universal Transformers: Sparse Retrieval Meets Structured Recurrence
di: Xiao, Liu
Pubblicazione: (2026)
di: Xiao, Liu
Pubblicazione: (2026)
Rethinking State Tracking in Recurrent Models Through Error Control Dynamics
di: Chung, Jiwan, et al.
Pubblicazione: (2026)
di: Chung, Jiwan, et al.
Pubblicazione: (2026)
A Novel Recurrent Neural Network Framework for Prediction and Treatment of Oncogenic Mutation Progression
di: Parthasarathy, Rishab, et al.
Pubblicazione: (2025)
di: Parthasarathy, Rishab, et al.
Pubblicazione: (2025)
Liger: Linearizing Large Language Models to Gated Recurrent Structures
di: Lan, Disen, et al.
Pubblicazione: (2025)
di: Lan, Disen, et al.
Pubblicazione: (2025)
Scaling Linear Attention with Sparse State Expansion
di: Pan, Yuqi, et al.
Pubblicazione: (2025)
di: Pan, Yuqi, et al.
Pubblicazione: (2025)
State Stream Transformer (SST) V2: Parallel Training of Nonlinear Recurrence for Latent Space Reasoning
di: Aviss, Thea
Pubblicazione: (2026)
di: Aviss, Thea
Pubblicazione: (2026)
Learning State-Tracking from Code Using Linear RNNs
di: Siems, Julien, et al.
Pubblicazione: (2026)
di: Siems, Julien, et al.
Pubblicazione: (2026)
Look, Remember and Reason: Grounded reasoning in videos with language models
di: Bhattacharyya, Apratim, et al.
Pubblicazione: (2023)
di: Bhattacharyya, Apratim, et al.
Pubblicazione: (2023)
Exploring Major Transitions in the Evolution of Biological Cognition With Artificial Neural Networks
di: Voudouris, Konstantinos, et al.
Pubblicazione: (2025)
di: Voudouris, Konstantinos, et al.
Pubblicazione: (2025)
Detection of Opioid Users from Reddit Posts via an Attention-based Bidirectional Recurrent Neural Network
di: Wang, Yuchen, et al.
Pubblicazione: (2024)
di: Wang, Yuchen, et al.
Pubblicazione: (2024)
Neural Attention Search Linear: Towards Adaptive Token-Level Hybrid Attention Models
di: Deng, Difan, et al.
Pubblicazione: (2026)
di: Deng, Difan, et al.
Pubblicazione: (2026)
Max-pooling Network Revisited: Analyzing the Role of Semantic Probability in Multiple Instance Learning for Hallucination Detection
di: Fujikawa, Shota, et al.
Pubblicazione: (2026)
di: Fujikawa, Shota, et al.
Pubblicazione: (2026)
On The Expressivity of Recurrent Neural Cascades
di: Knorozova, Nadezda Alexandrovna, et al.
Pubblicazione: (2023)
di: Knorozova, Nadezda Alexandrovna, et al.
Pubblicazione: (2023)
Vector Quantized Latent Concepts: A Scalable Alternative to Clustering-Based Concept Discovery
di: Yu, Xuemin, et al.
Pubblicazione: (2026)
di: Yu, Xuemin, et al.
Pubblicazione: (2026)
BiHRNN -- Bi-Directional Hierarchical Recurrent Neural Network for Inflation Forecasting
di: Vilenko, Maya
Pubblicazione: (2025)
di: Vilenko, Maya
Pubblicazione: (2025)
BiDoRA: Bi-level Optimization-Based Weight-Decomposed Low-Rank Adaptation
di: Qin, Peijia, et al.
Pubblicazione: (2024)
di: Qin, Peijia, et al.
Pubblicazione: (2024)
Convolutional Neural Networks for Toxic Comment Classification
di: Georgakopoulos, Spiros V., et al.
Pubblicazione: (2018)
di: Georgakopoulos, Spiros V., et al.
Pubblicazione: (2018)
Article Classification with Graph Neural Networks and Multigraphs
di: Ly, Khang, et al.
Pubblicazione: (2023)
di: Ly, Khang, et al.
Pubblicazione: (2023)
Graph Neural Networks on Discriminative Graphs of Words
di: Abbahaddou, Yassine, et al.
Pubblicazione: (2024)
di: Abbahaddou, Yassine, et al.
Pubblicazione: (2024)
Training Neural Networks as Recognizers of Formal Languages
di: Butoi, Alexandra, et al.
Pubblicazione: (2024)
di: Butoi, Alexandra, et al.
Pubblicazione: (2024)
A Survey : Neural Networks for AMR-to-Text
di: Hao, Hongyu, et al.
Pubblicazione: (2022)
di: Hao, Hongyu, et al.
Pubblicazione: (2022)
Structured Recurrent Mixers for Massively Parallelized Sequence Generation
di: Badger, Benjamin L.
Pubblicazione: (2026)
di: Badger, Benjamin L.
Pubblicazione: (2026)
In-context Learning and Gradient Descent Revisited
di: Deutch, Gilad, et al.
Pubblicazione: (2023)
di: Deutch, Gilad, et al.
Pubblicazione: (2023)
Accelerating Linear Recurrent Neural Networks for the Edge with Unstructured Sparsity
di: Pierro, Alessandro, et al.
Pubblicazione: (2025)
di: Pierro, Alessandro, et al.
Pubblicazione: (2025)
Neural Isomorphic Fields: A Transformer-based Algebraic Numerical Embedding
di: Sadeghi, Hamidreza, et al.
Pubblicazione: (2026)
di: Sadeghi, Hamidreza, et al.
Pubblicazione: (2026)
Next Word Suggestion using Graph Neural Network
di: Magar, Abisha Thapa, et al.
Pubblicazione: (2025)
di: Magar, Abisha Thapa, et al.
Pubblicazione: (2025)
Unlocking State-Tracking in Linear RNNs Through Negative Eigenvalues
di: Grazzi, Riccardo, et al.
Pubblicazione: (2024)
di: Grazzi, Riccardo, et al.
Pubblicazione: (2024)
Documenti analoghi
-
On the "Induction Bias" in Sequence Models
di: Ebrahimi, M. Reza, et al.
Pubblicazione: (2026) -
Multi-Draft Speculative Sampling: Canonical Decomposition and Theoretical Limits
di: Khisti, Ashish, et al.
Pubblicazione: (2024) -
Your Context Is Not an Array: Unveiling Random Access Limitations in Transformers
di: Ebrahimi, MohammadReza, et al.
Pubblicazione: (2024) -
Advancing Regular Language Reasoning in Linear Recurrent Neural Networks
di: Fan, Ting-Han, et al.
Pubblicazione: (2023) -
Delayed Attention Training Improves Length Generalization in Transformer--RNN Hybrids
di: Phan, Buu, et al.
Pubblicazione: (2025)