Sparse Attention as Compact Kernel Regression
Fuente:
arXiv
Salvato in:
| Autori principali: | Santos, Saul, Gonçalves, Nuno, McNamee, Daniel C., Treviso, Marcos, Martins, André F. T |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
AdaSplash: Adaptive Sparse Flash Attention
di: Gonçalves, Nuno, et al.
Pubblicazione: (2025)
di: Gonçalves, Nuno, et al.
Pubblicazione: (2025)
Sparse and Structured Hopfield Networks
di: Santos, Saul, et al.
Pubblicazione: (2024)
di: Santos, Saul, et al.
Pubblicazione: (2024)
Hopfield-Fenchel-Young Networks: A Unified Framework for Associative Memory Retrieval
di: Santos, Saul, et al.
Pubblicazione: (2024)
di: Santos, Saul, et al.
Pubblicazione: (2024)
Modern Hopfield Networks with Continuous-Time Memories
di: Santos, Saul, et al.
Pubblicazione: (2025)
di: Santos, Saul, et al.
Pubblicazione: (2025)
$\infty$-Video: A Training-Free Approach to Long Video Understanding via Continuous-Time Memory Consolidation
di: Santos, Saul, et al.
Pubblicazione: (2025)
di: Santos, Saul, et al.
Pubblicazione: (2025)
AdaSplash-2: Faster Differentiable Sparse Attention
di: Gonçalves, Nuno, et al.
Pubblicazione: (2026)
di: Gonçalves, Nuno, et al.
Pubblicazione: (2026)
DashAttention: Differentiable and Adaptive Sparse Hierarchical Attention
di: Huang, Yuxiang, et al.
Pubblicazione: (2026)
di: Huang, Yuxiang, et al.
Pubblicazione: (2026)
Emergent Causal-Geometric Dynamics Across Depth in Large Language Models
di: Haim, Shahar, et al.
Pubblicazione: (2026)
di: Haim, Shahar, et al.
Pubblicazione: (2026)
World Models as Reference Trajectories for Rapid Motor Adaptation
di: Brito, Carlos Stein, et al.
Pubblicazione: (2025)
di: Brito, Carlos Stein, et al.
Pubblicazione: (2025)
Feature Aggregation in Joint Sound Classification and Localization Neural Networks
di: Healy, Brendan, et al.
Pubblicazione: (2023)
di: Healy, Brendan, et al.
Pubblicazione: (2023)
EntmaxKV: Support-Aware Decoding for Entmax Attention
di: Duarte, Gonçalo, et al.
Pubblicazione: (2026)
di: Duarte, Gonçalo, et al.
Pubblicazione: (2026)
Long-Context Generalization with Sparse Attention
di: Vasylenko, Pavlo, et al.
Pubblicazione: (2025)
di: Vasylenko, Pavlo, et al.
Pubblicazione: (2025)
Data Kernel Perspective Space Performance Guarantees for Synthetic Data from Transformer Models
di: Browder, Michael, et al.
Pubblicazione: (2026)
di: Browder, Michael, et al.
Pubblicazione: (2026)
Contemporary Trends in Information Delivery. Program for a Workshop. December 11 and 12, 1974, San Francisco Public Library.
di: McNamee, Gil
Pubblicazione: (1974)
di: McNamee, Gil
Pubblicazione: (1974)
The Mentally Retarded: Challenge for Librarians
di: McNamee, Marian
Pubblicazione: (1975)
di: McNamee, Marian
Pubblicazione: (1975)
BARC and the Consumer
di: McNamee, Gil
Pubblicazione: (1971)
di: McNamee, Gil
Pubblicazione: (1971)
Reimagining Theories as Conversational Resources: Implications for Family Therapy
di: Sheila McNamee
Pubblicazione: (2025)
di: Sheila McNamee
Pubblicazione: (2025)
Research as Social Construction: Transformative Inquiry
di: Sheila McNamee
Pubblicazione: (2010)
di: Sheila McNamee
Pubblicazione: (2010)
Solving Attention Kernel Regression Problem via Pre-conditioner
di: Song, Zhao, et al.
Pubblicazione: (2023)
di: Song, Zhao, et al.
Pubblicazione: (2023)
SOCKET: SOft Collision Kernel EsTimator for Sparse Attention
di: Joshi, Sahil, et al.
Pubblicazione: (2026)
di: Joshi, Sahil, et al.
Pubblicazione: (2026)
Accelerating Regularized Attention Kernel Regression for Spectrum Cartography
di: Tao, Liping, et al.
Pubblicazione: (2026)
di: Tao, Liping, et al.
Pubblicazione: (2026)
Kernel Multigrid: Accelerate Back-fitting via Sparse Gaussian Process Regression
di: Zou, Lu, et al.
Pubblicazione: (2024)
di: Zou, Lu, et al.
Pubblicazione: (2024)
LanteRn: Latent Visual Structured Reasoning
di: Viveiros, André G., et al.
Pubblicazione: (2026)
di: Viveiros, André G., et al.
Pubblicazione: (2026)
What's Holding Back Latent Visual Reasoning?
di: Viveiros, André G., et al.
Pubblicazione: (2026)
di: Viveiros, André G., et al.
Pubblicazione: (2026)
Fire and Rescue Service Preparedness for Natural Hazards
di: Johan Björck, et al.
Pubblicazione: (2026)
di: Johan Björck, et al.
Pubblicazione: (2026)
High-Dimensional Gaussian Process Regression with Soft Kernel Interpolation
di: Camaño, Chris, et al.
Pubblicazione: (2024)
di: Camaño, Chris, et al.
Pubblicazione: (2024)
Generalization in Kernel Regression Under Realistic Assumptions
di: Barzilai, Daniel, et al.
Pubblicazione: (2023)
di: Barzilai, Daniel, et al.
Pubblicazione: (2023)
Spectrally Transformed Kernel Regression
di: Zhai, Runtian, et al.
Pubblicazione: (2024)
di: Zhai, Runtian, et al.
Pubblicazione: (2024)
FSA: An Alternative Efficient Implementation of Native Sparse Attention Kernel
di: Yan, Ran, et al.
Pubblicazione: (2025)
di: Yan, Ran, et al.
Pubblicazione: (2025)
Conformalized Selective Regression
di: Sokol, Anna, et al.
Pubblicazione: (2024)
di: Sokol, Anna, et al.
Pubblicazione: (2024)
Transformer Neural Processes - Kernel Regression
di: Jenson, Daniel, et al.
Pubblicazione: (2024)
di: Jenson, Daniel, et al.
Pubblicazione: (2024)
Sparse Robust Classification via the Kernel Mean
di: van Rooyen, Brendan, et al.
Pubblicazione: (2015)
di: van Rooyen, Brendan, et al.
Pubblicazione: (2015)
Large Dimensional Kernel Ridge Regression: Extending to Product Kernels
di: Zhou, Yang, et al.
Pubblicazione: (2026)
di: Zhou, Yang, et al.
Pubblicazione: (2026)
Learning Analysis of Kernel Ridgeless Regression with Asymmetric Kernel Learning
di: He, Fan, et al.
Pubblicazione: (2024)
di: He, Fan, et al.
Pubblicazione: (2024)
Sparse Attention Regression Network Based Soil Fertility Prediction With Ummaso
di: Rao, R V Raghavendra, et al.
Pubblicazione: (2024)
di: Rao, R V Raghavendra, et al.
Pubblicazione: (2024)
Compact Memory for Continual Logistic Regression
di: Jung, Yohan, et al.
Pubblicazione: (2025)
di: Jung, Yohan, et al.
Pubblicazione: (2025)
On the Saturation Effect of Kernel Ridge Regression
di: Li, Yicheng, et al.
Pubblicazione: (2024)
di: Li, Yicheng, et al.
Pubblicazione: (2024)
Bayesian Kernel Regression for Functional Data
di: Kusaba, Minoru, et al.
Pubblicazione: (2025)
di: Kusaba, Minoru, et al.
Pubblicazione: (2025)
Scaling Continuous Kernels with Sparse Fourier Domain Learning
di: Harper, Clayton, et al.
Pubblicazione: (2024)
di: Harper, Clayton, et al.
Pubblicazione: (2024)
Sparse Activations as Conformal Predictors
di: Campos, Margarida M., et al.
Pubblicazione: (2025)
di: Campos, Margarida M., et al.
Pubblicazione: (2025)
Documenti analoghi
-
AdaSplash: Adaptive Sparse Flash Attention
di: Gonçalves, Nuno, et al.
Pubblicazione: (2025) -
Sparse and Structured Hopfield Networks
di: Santos, Saul, et al.
Pubblicazione: (2024) -
Hopfield-Fenchel-Young Networks: A Unified Framework for Associative Memory Retrieval
di: Santos, Saul, et al.
Pubblicazione: (2024) -
Modern Hopfield Networks with Continuous-Time Memories
di: Santos, Saul, et al.
Pubblicazione: (2025) -
$\infty$-Video: A Training-Free Approach to Long Video Understanding via Continuous-Time Memory Consolidation
di: Santos, Saul, et al.
Pubblicazione: (2025)