How Long Does Infinite Width Last? Signal Propagation in Long-Range Linear Recurrences
Fuente:
arXiv
Salvato in:
| Autore principale: | Seleznova, Mariia |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Revisiting Glorot Initialization for Long-Range Linear Recurrences
di: Bar, Noga, et al.
Pubblicazione: (2025)
di: Bar, Noga, et al.
Pubblicazione: (2025)
Long Range Propagation on Continuous-Time Dynamic Graphs
di: Gravina, Alessio, et al.
Pubblicazione: (2024)
di: Gravina, Alessio, et al.
Pubblicazione: (2024)
Graph Hierarchical Recurrence for Long-Range Generalization
di: Carotti, Stefano, et al.
Pubblicazione: (2026)
di: Carotti, Stefano, et al.
Pubblicazione: (2026)
GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection
di: Seleznova, Mariia, et al.
Pubblicazione: (2025)
di: Seleznova, Mariia, et al.
Pubblicazione: (2025)
Latent Structure Emergence in Diffusion Models via Confidence-Based Filtering
di: Wei, Wei, et al.
Pubblicazione: (2026)
di: Wei, Wei, et al.
Pubblicazione: (2026)
Local Loss Optimization in the Infinite Width: Stable Parameterization of Predictive Coding Networks and Target Propagation
di: Ishikawa, Satoki, et al.
Pubblicazione: (2024)
di: Ishikawa, Satoki, et al.
Pubblicazione: (2024)
Long-Range Feature Propagating for Natural Image Matting
di: Liu, Qinglin, et al.
Pubblicazione: (2021)
di: Liu, Qinglin, et al.
Pubblicazione: (2021)
Channel Estimation by Infinite Width Convolutional Networks
di: Mallik, Mohammed, et al.
Pubblicazione: (2025)
di: Mallik, Mohammed, et al.
Pubblicazione: (2025)
Can You Hear Me Now? A Benchmark for Long-Range Graph Propagation
di: Miglior, Luca, et al.
Pubblicazione: (2025)
di: Miglior, Luca, et al.
Pubblicazione: (2025)
PDFormer: Propagation Delay-Aware Dynamic Long-Range Transformer for Traffic Flow Prediction
di: Jiang, Jiawei, et al.
Pubblicazione: (2023)
di: Jiang, Jiawei, et al.
Pubblicazione: (2023)
Learn to Jump: Adaptive Random Walks for Long-Range Propagation through Graph Hierarchies
di: Mathys, Joël, et al.
Pubblicazione: (2025)
di: Mathys, Joël, et al.
Pubblicazione: (2025)
How Implicit Bias Accumulates and Propagates in LLM Long-term Memory
di: Ma, Yiming, et al.
Pubblicazione: (2026)
di: Ma, Yiming, et al.
Pubblicazione: (2026)
Flexible Infinite-Width Graph Convolutional Neural Networks
di: Anson, Ben, et al.
Pubblicazione: (2024)
di: Anson, Ben, et al.
Pubblicazione: (2024)
Infinite Width Limits of Self Supervised Neural Networks
di: Fleissner, Maximilian, et al.
Pubblicazione: (2024)
di: Fleissner, Maximilian, et al.
Pubblicazione: (2024)
Port-Hamiltonian Architectural Bias for Long-Range Propagation in Deep Graph Networks
di: Heilig, Simon, et al.
Pubblicazione: (2024)
di: Heilig, Simon, et al.
Pubblicazione: (2024)
Depth Separation in Norm-Bounded Infinite-Width Neural Networks
di: Parkinson, Suzanna, et al.
Pubblicazione: (2024)
di: Parkinson, Suzanna, et al.
Pubblicazione: (2024)
On the Parameterization of Second-Order Optimization Effective Towards the Infinite Width
di: Ishikawa, Satoki, et al.
Pubblicazione: (2023)
di: Ishikawa, Satoki, et al.
Pubblicazione: (2023)
An Infinite-Width Analysis on the Jacobian-Regularised Training of a Neural Network
di: Kim, Taeyoung, et al.
Pubblicazione: (2023)
di: Kim, Taeyoung, et al.
Pubblicazione: (2023)
How Does Response Length Affect Long-Form Factuality
di: Zhao, James Xu, et al.
Pubblicazione: (2025)
di: Zhao, James Xu, et al.
Pubblicazione: (2025)
Transfer Learning in Infinite Width Feature Learning Networks
di: Lauditi, Clarissa, et al.
Pubblicazione: (2025)
di: Lauditi, Clarissa, et al.
Pubblicazione: (2025)
Towards Infinite-Long Prefix in Transformer
di: Liang, Yingyu, et al.
Pubblicazione: (2024)
di: Liang, Yingyu, et al.
Pubblicazione: (2024)
Universality of Linear Recurrences Followed by Non-linear Projections: Finite-Width Guarantees and Benefits of Complex Eigenvalues
di: Orvieto, Antonio, et al.
Pubblicazione: (2023)
di: Orvieto, Antonio, et al.
Pubblicazione: (2023)
Poolformer: Recurrent Networks with Pooling for Long-Sequence Modeling
di: Fernández, Daniel Gallo
Pubblicazione: (2025)
di: Fernández, Daniel Gallo
Pubblicazione: (2025)
Network Degeneracy as an Indicator of Training Performance: Comparing Finite and Infinite Width Angle Predictions
di: Jakub, Cameron, et al.
Pubblicazione: (2023)
di: Jakub, Cameron, et al.
Pubblicazione: (2023)
Infinite-Width Limit of a Single Attention Layer: Analysis via Tensor Programs
di: Sakai, Mana, et al.
Pubblicazione: (2025)
di: Sakai, Mana, et al.
Pubblicazione: (2025)
Does Long-Term Series Forecasting Need Complex Attention and Extra Long Inputs?
di: Liang, Daojun, et al.
Pubblicazione: (2023)
di: Liang, Daojun, et al.
Pubblicazione: (2023)
Geometry-Induced Long-Range Correlations in Recurrent Neural Network Quantum States
di: Ayub, Asif Bin, et al.
Pubblicazione: (2026)
di: Ayub, Asif Bin, et al.
Pubblicazione: (2026)
Long-Range Graph Wavelet Networks
di: Guerranti, Filippo, et al.
Pubblicazione: (2025)
di: Guerranti, Filippo, et al.
Pubblicazione: (2025)
Constrained Recurrent Bayesian Forecasting for Crack Propagation
di: Ouerk, Sara Yasmine, et al.
Pubblicazione: (2024)
di: Ouerk, Sara Yasmine, et al.
Pubblicazione: (2024)
Learning Long-Range Dependencies with Temporal Predictive Coding
di: Potter, Tom, et al.
Pubblicazione: (2026)
di: Potter, Tom, et al.
Pubblicazione: (2026)
Multi-Window Temporal Analysis for Enhanced Arrhythmia Classification: Leveraging Long-Range Dependencies in Electrocardiogram Signals
di: Wang, Tiezhi, et al.
Pubblicazione: (2025)
di: Wang, Tiezhi, et al.
Pubblicazione: (2025)
Event Detection and Classification for Long Range Sensing of Elephants Using Seismic Signal
di: Wijayaraja, Jaliya L., et al.
Pubblicazione: (2025)
di: Wijayaraja, Jaliya L., et al.
Pubblicazione: (2025)
Short-Long Convolutions Help Hardware-Efficient Linear Attention to Focus on Long Sequences
di: Liu, Zicheng, et al.
Pubblicazione: (2024)
di: Liu, Zicheng, et al.
Pubblicazione: (2024)
Overflow Prevention Enhances Long-Context Recurrent LLMs
di: Ben-Kish, Assaf, et al.
Pubblicazione: (2025)
di: Ben-Kish, Assaf, et al.
Pubblicazione: (2025)
The Graphon Limit Hypothesis: Understanding Neural Network Pruning via Infinite Width Analysis
di: Pham, Hoang, et al.
Pubblicazione: (2025)
di: Pham, Hoang, et al.
Pubblicazione: (2025)
On the Infinite Width and Depth Limits of Predictive Coding Networks
di: Innocenti, Francesco, et al.
Pubblicazione: (2026)
di: Innocenti, Francesco, et al.
Pubblicazione: (2026)
Stable Long-Horizon PDE Forecasting via Latent Structured Spectral Propagators
di: Lu, Xiaoxiao, et al.
Pubblicazione: (2026)
di: Lu, Xiaoxiao, et al.
Pubblicazione: (2026)
The NLP Task Effectiveness of Long-Range Transformers
di: Qin, Guanghui, et al.
Pubblicazione: (2022)
di: Qin, Guanghui, et al.
Pubblicazione: (2022)
SDBA: A Stealthy and Long-Lasting Durable Backdoor Attack in Federated Learning
di: Choe, Minyeong, et al.
Pubblicazione: (2024)
di: Choe, Minyeong, et al.
Pubblicazione: (2024)
Learning Long Range Dependencies on Graphs via Random Walks
di: Chen, Dexiong, et al.
Pubblicazione: (2024)
di: Chen, Dexiong, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Revisiting Glorot Initialization for Long-Range Linear Recurrences
di: Bar, Noga, et al.
Pubblicazione: (2025) -
Long Range Propagation on Continuous-Time Dynamic Graphs
di: Gravina, Alessio, et al.
Pubblicazione: (2024) -
Graph Hierarchical Recurrence for Long-Range Generalization
di: Carotti, Stefano, et al.
Pubblicazione: (2026) -
GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection
di: Seleznova, Mariia, et al.
Pubblicazione: (2025) -
Latent Structure Emergence in Diffusion Models via Confidence-Based Filtering
di: Wei, Wei, et al.
Pubblicazione: (2026)