How Long Does Infinite Width Last? Signal Propagation in Long-Range Linear Recurrences
Fuente:
arXiv
Gespeichert in:
| 1. Verfasser: | Seleznova, Mariia |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Revisiting Glorot Initialization for Long-Range Linear Recurrences
von: Bar, Noga, et al.
Veröffentlicht: (2025)
von: Bar, Noga, et al.
Veröffentlicht: (2025)
Long Range Propagation on Continuous-Time Dynamic Graphs
von: Gravina, Alessio, et al.
Veröffentlicht: (2024)
von: Gravina, Alessio, et al.
Veröffentlicht: (2024)
Graph Hierarchical Recurrence for Long-Range Generalization
von: Carotti, Stefano, et al.
Veröffentlicht: (2026)
von: Carotti, Stefano, et al.
Veröffentlicht: (2026)
GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection
von: Seleznova, Mariia, et al.
Veröffentlicht: (2025)
von: Seleznova, Mariia, et al.
Veröffentlicht: (2025)
Latent Structure Emergence in Diffusion Models via Confidence-Based Filtering
von: Wei, Wei, et al.
Veröffentlicht: (2026)
von: Wei, Wei, et al.
Veröffentlicht: (2026)
Local Loss Optimization in the Infinite Width: Stable Parameterization of Predictive Coding Networks and Target Propagation
von: Ishikawa, Satoki, et al.
Veröffentlicht: (2024)
von: Ishikawa, Satoki, et al.
Veröffentlicht: (2024)
Long-Range Feature Propagating for Natural Image Matting
von: Liu, Qinglin, et al.
Veröffentlicht: (2021)
von: Liu, Qinglin, et al.
Veröffentlicht: (2021)
Channel Estimation by Infinite Width Convolutional Networks
von: Mallik, Mohammed, et al.
Veröffentlicht: (2025)
von: Mallik, Mohammed, et al.
Veröffentlicht: (2025)
Can You Hear Me Now? A Benchmark for Long-Range Graph Propagation
von: Miglior, Luca, et al.
Veröffentlicht: (2025)
von: Miglior, Luca, et al.
Veröffentlicht: (2025)
PDFormer: Propagation Delay-Aware Dynamic Long-Range Transformer for Traffic Flow Prediction
von: Jiang, Jiawei, et al.
Veröffentlicht: (2023)
von: Jiang, Jiawei, et al.
Veröffentlicht: (2023)
Learn to Jump: Adaptive Random Walks for Long-Range Propagation through Graph Hierarchies
von: Mathys, Joël, et al.
Veröffentlicht: (2025)
von: Mathys, Joël, et al.
Veröffentlicht: (2025)
How Implicit Bias Accumulates and Propagates in LLM Long-term Memory
von: Ma, Yiming, et al.
Veröffentlicht: (2026)
von: Ma, Yiming, et al.
Veröffentlicht: (2026)
Flexible Infinite-Width Graph Convolutional Neural Networks
von: Anson, Ben, et al.
Veröffentlicht: (2024)
von: Anson, Ben, et al.
Veröffentlicht: (2024)
Infinite Width Limits of Self Supervised Neural Networks
von: Fleissner, Maximilian, et al.
Veröffentlicht: (2024)
von: Fleissner, Maximilian, et al.
Veröffentlicht: (2024)
Port-Hamiltonian Architectural Bias for Long-Range Propagation in Deep Graph Networks
von: Heilig, Simon, et al.
Veröffentlicht: (2024)
von: Heilig, Simon, et al.
Veröffentlicht: (2024)
Depth Separation in Norm-Bounded Infinite-Width Neural Networks
von: Parkinson, Suzanna, et al.
Veröffentlicht: (2024)
von: Parkinson, Suzanna, et al.
Veröffentlicht: (2024)
On the Parameterization of Second-Order Optimization Effective Towards the Infinite Width
von: Ishikawa, Satoki, et al.
Veröffentlicht: (2023)
von: Ishikawa, Satoki, et al.
Veröffentlicht: (2023)
An Infinite-Width Analysis on the Jacobian-Regularised Training of a Neural Network
von: Kim, Taeyoung, et al.
Veröffentlicht: (2023)
von: Kim, Taeyoung, et al.
Veröffentlicht: (2023)
How Does Response Length Affect Long-Form Factuality
von: Zhao, James Xu, et al.
Veröffentlicht: (2025)
von: Zhao, James Xu, et al.
Veröffentlicht: (2025)
Transfer Learning in Infinite Width Feature Learning Networks
von: Lauditi, Clarissa, et al.
Veröffentlicht: (2025)
von: Lauditi, Clarissa, et al.
Veröffentlicht: (2025)
Towards Infinite-Long Prefix in Transformer
von: Liang, Yingyu, et al.
Veröffentlicht: (2024)
von: Liang, Yingyu, et al.
Veröffentlicht: (2024)
Universality of Linear Recurrences Followed by Non-linear Projections: Finite-Width Guarantees and Benefits of Complex Eigenvalues
von: Orvieto, Antonio, et al.
Veröffentlicht: (2023)
von: Orvieto, Antonio, et al.
Veröffentlicht: (2023)
Poolformer: Recurrent Networks with Pooling for Long-Sequence Modeling
von: Fernández, Daniel Gallo
Veröffentlicht: (2025)
von: Fernández, Daniel Gallo
Veröffentlicht: (2025)
Network Degeneracy as an Indicator of Training Performance: Comparing Finite and Infinite Width Angle Predictions
von: Jakub, Cameron, et al.
Veröffentlicht: (2023)
von: Jakub, Cameron, et al.
Veröffentlicht: (2023)
Infinite-Width Limit of a Single Attention Layer: Analysis via Tensor Programs
von: Sakai, Mana, et al.
Veröffentlicht: (2025)
von: Sakai, Mana, et al.
Veröffentlicht: (2025)
Does Long-Term Series Forecasting Need Complex Attention and Extra Long Inputs?
von: Liang, Daojun, et al.
Veröffentlicht: (2023)
von: Liang, Daojun, et al.
Veröffentlicht: (2023)
Geometry-Induced Long-Range Correlations in Recurrent Neural Network Quantum States
von: Ayub, Asif Bin, et al.
Veröffentlicht: (2026)
von: Ayub, Asif Bin, et al.
Veröffentlicht: (2026)
Long-Range Graph Wavelet Networks
von: Guerranti, Filippo, et al.
Veröffentlicht: (2025)
von: Guerranti, Filippo, et al.
Veröffentlicht: (2025)
Constrained Recurrent Bayesian Forecasting for Crack Propagation
von: Ouerk, Sara Yasmine, et al.
Veröffentlicht: (2024)
von: Ouerk, Sara Yasmine, et al.
Veröffentlicht: (2024)
Learning Long-Range Dependencies with Temporal Predictive Coding
von: Potter, Tom, et al.
Veröffentlicht: (2026)
von: Potter, Tom, et al.
Veröffentlicht: (2026)
Multi-Window Temporal Analysis for Enhanced Arrhythmia Classification: Leveraging Long-Range Dependencies in Electrocardiogram Signals
von: Wang, Tiezhi, et al.
Veröffentlicht: (2025)
von: Wang, Tiezhi, et al.
Veröffentlicht: (2025)
Event Detection and Classification for Long Range Sensing of Elephants Using Seismic Signal
von: Wijayaraja, Jaliya L., et al.
Veröffentlicht: (2025)
von: Wijayaraja, Jaliya L., et al.
Veröffentlicht: (2025)
Short-Long Convolutions Help Hardware-Efficient Linear Attention to Focus on Long Sequences
von: Liu, Zicheng, et al.
Veröffentlicht: (2024)
von: Liu, Zicheng, et al.
Veröffentlicht: (2024)
Overflow Prevention Enhances Long-Context Recurrent LLMs
von: Ben-Kish, Assaf, et al.
Veröffentlicht: (2025)
von: Ben-Kish, Assaf, et al.
Veröffentlicht: (2025)
The Graphon Limit Hypothesis: Understanding Neural Network Pruning via Infinite Width Analysis
von: Pham, Hoang, et al.
Veröffentlicht: (2025)
von: Pham, Hoang, et al.
Veröffentlicht: (2025)
On the Infinite Width and Depth Limits of Predictive Coding Networks
von: Innocenti, Francesco, et al.
Veröffentlicht: (2026)
von: Innocenti, Francesco, et al.
Veröffentlicht: (2026)
Stable Long-Horizon PDE Forecasting via Latent Structured Spectral Propagators
von: Lu, Xiaoxiao, et al.
Veröffentlicht: (2026)
von: Lu, Xiaoxiao, et al.
Veröffentlicht: (2026)
The NLP Task Effectiveness of Long-Range Transformers
von: Qin, Guanghui, et al.
Veröffentlicht: (2022)
von: Qin, Guanghui, et al.
Veröffentlicht: (2022)
SDBA: A Stealthy and Long-Lasting Durable Backdoor Attack in Federated Learning
von: Choe, Minyeong, et al.
Veröffentlicht: (2024)
von: Choe, Minyeong, et al.
Veröffentlicht: (2024)
Learning Long Range Dependencies on Graphs via Random Walks
von: Chen, Dexiong, et al.
Veröffentlicht: (2024)
von: Chen, Dexiong, et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
Revisiting Glorot Initialization for Long-Range Linear Recurrences
von: Bar, Noga, et al.
Veröffentlicht: (2025) -
Long Range Propagation on Continuous-Time Dynamic Graphs
von: Gravina, Alessio, et al.
Veröffentlicht: (2024) -
Graph Hierarchical Recurrence for Long-Range Generalization
von: Carotti, Stefano, et al.
Veröffentlicht: (2026) -
GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection
von: Seleznova, Mariia, et al.
Veröffentlicht: (2025) -
Latent Structure Emergence in Diffusion Models via Confidence-Based Filtering
von: Wei, Wei, et al.
Veröffentlicht: (2026)