Attention on the Sphere
Fuente:
arXiv
Salvato in:
| Autori principali: | Bonev, Boris, Rietmann, Max, Paris, Andrea, Carpentieri, Alberto, Kurth, Thorsten |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Neural Operators with Localized Integral and Differential Kernels
di: Liu-Schiaffini, Miguel, et al.
Pubblicazione: (2024)
di: Liu-Schiaffini, Miguel, et al.
Pubblicazione: (2024)
MARA: Continuous SE(3)-Equivariant Attention for Molecular Force Fields
di: Leonardi, Francesco, et al.
Pubblicazione: (2026)
di: Leonardi, Francesco, et al.
Pubblicazione: (2026)
Modulated Adaptive Fourier Neural Operators for Temporal Interpolation of Weather Forecasts
di: Leinonen, Jussi, et al.
Pubblicazione: (2024)
di: Leinonen, Jussi, et al.
Pubblicazione: (2024)
Exploring the design space of deep-learning-based weather forecasting systems
di: Siddiqui, Shoaib Ahmed, et al.
Pubblicazione: (2024)
di: Siddiqui, Shoaib Ahmed, et al.
Pubblicazione: (2024)
Data-driven Surface Solar Irradiance Estimation using Neural Operators at Global Scale
di: Carpentieri, Alberto, et al.
Pubblicazione: (2024)
di: Carpentieri, Alberto, et al.
Pubblicazione: (2024)
Controlled LLM Training on Spectral Sphere
di: Xie, Tian, et al.
Pubblicazione: (2026)
di: Xie, Tian, et al.
Pubblicazione: (2026)
A Library for Learning Neural Operators
di: Kossaifi, Jean, et al.
Pubblicazione: (2024)
di: Kossaifi, Jean, et al.
Pubblicazione: (2024)
CaFA: Global Weather Forecasting with Factorized Attention on Sphere
di: Li, Zijie, et al.
Pubblicazione: (2024)
di: Li, Zijie, et al.
Pubblicazione: (2024)
Deep Learning and Data Augmentation for Detecting Self-Admitted Technical Debt
di: Sutoyo, Edi, et al.
Pubblicazione: (2024)
di: Sutoyo, Edi, et al.
Pubblicazione: (2024)
A layered architecture for log analysis in complex IT systems
di: Wittkopp, Thorsten
Pubblicazione: (2025)
di: Wittkopp, Thorsten
Pubblicazione: (2025)
Principled Approaches for Extending Neural Architectures to Function Spaces for Operator Learning
di: Berner, Julius, et al.
Pubblicazione: (2025)
di: Berner, Julius, et al.
Pubblicazione: (2025)
Beyond the Birkhoff Polytope: Spectral-Sphere-Constrained Hyper-Connections
di: Liu, Zhaoyi, et al.
Pubblicazione: (2026)
di: Liu, Zhaoyi, et al.
Pubblicazione: (2026)
Distributionally Robust Causal Abstractions
di: Felekis, Yorgos, et al.
Pubblicazione: (2025)
di: Felekis, Yorgos, et al.
Pubblicazione: (2025)
Empty SPACE: Cross-Attention Sparsity for Concept Erasure in Diffusion Models
di: Novello, Nicola, et al.
Pubblicazione: (2026)
di: Novello, Nicola, et al.
Pubblicazione: (2026)
Star Attention: Efficient LLM Inference over Long Sequences
di: Acharya, Shantanu, et al.
Pubblicazione: (2024)
di: Acharya, Shantanu, et al.
Pubblicazione: (2024)
Multi-Layer Attention-Based Explainability via Transformers for Tabular Data
di: Gavito, Andrea Treviño, et al.
Pubblicazione: (2023)
di: Gavito, Andrea Treviño, et al.
Pubblicazione: (2023)
Physics-Informed Neural Networks and Extensions
di: Raissi, Maziar, et al.
Pubblicazione: (2024)
di: Raissi, Maziar, et al.
Pubblicazione: (2024)
Coupled Ocean-Atmosphere Dynamics in a Machine Learning Earth System Model
di: Wang, Chenggong, et al.
Pubblicazione: (2024)
di: Wang, Chenggong, et al.
Pubblicazione: (2024)
vAttention: Verified Sparse Attention
di: Desai, Aditya, et al.
Pubblicazione: (2025)
di: Desai, Aditya, et al.
Pubblicazione: (2025)
Attention Sinks and Outliers in Attention Residuals
di: Luo, Haozheng, et al.
Pubblicazione: (2026)
di: Luo, Haozheng, et al.
Pubblicazione: (2026)
AI for the prediction of early stages of Alzheimer's disease from neuroimaging biomarkers -- A narrative review of a growing field
di: Rudroff, Thorsten, et al.
Pubblicazione: (2024)
di: Rudroff, Thorsten, et al.
Pubblicazione: (2024)
CUROCKET: Optimizing ROCKET for GPU
di: Stüven, Ole, et al.
Pubblicazione: (2026)
di: Stüven, Ole, et al.
Pubblicazione: (2026)
Learning Rate Transfer in Normalized Transformers
di: Shigida, Boris, et al.
Pubblicazione: (2026)
di: Shigida, Boris, et al.
Pubblicazione: (2026)
Demystifying Data-Driven Probabilistic Medium-Range Weather Forecasting
di: Kossaifi, Jean, et al.
Pubblicazione: (2026)
di: Kossaifi, Jean, et al.
Pubblicazione: (2026)
Attention Schema-based Attention Control (ASAC): A Cognitive-Inspired Approach for Attention Management in Transformers
di: Saxena, Krati, et al.
Pubblicazione: (2025)
di: Saxena, Krati, et al.
Pubblicazione: (2025)
SeerAttention-R: Sparse Attention Adaptation for Long Reasoning
di: Gao, Yizhao, et al.
Pubblicazione: (2025)
di: Gao, Yizhao, et al.
Pubblicazione: (2025)
DistrAttention: An Efficient and Flexible Self-Attention Mechanism on Modern GPUs
di: Jin, Haolin, et al.
Pubblicazione: (2025)
di: Jin, Haolin, et al.
Pubblicazione: (2025)
XicorAttention: Time Series Transformer Using Attention with Nonlinear Correlation
di: Kimura, Daichi, et al.
Pubblicazione: (2025)
di: Kimura, Daichi, et al.
Pubblicazione: (2025)
Robust Filter Attention: Self-Attention as Precision-Weighted State Estimation
di: Racioppo, Peter
Pubblicazione: (2025)
di: Racioppo, Peter
Pubblicazione: (2025)
Geometric Attention: A Regime-Explicit Operator Semantics for Transformer Attention
di: Freytes, Luis Rosario
Pubblicazione: (2026)
di: Freytes, Luis Rosario
Pubblicazione: (2026)
INT-FlashAttention: Enabling Flash Attention for INT8 Quantization
di: Chen, Shimao, et al.
Pubblicazione: (2024)
di: Chen, Shimao, et al.
Pubblicazione: (2024)
FlashAttention-3: Fast and Accurate Attention with Asynchrony and Low-precision
di: Shah, Jay, et al.
Pubblicazione: (2024)
di: Shah, Jay, et al.
Pubblicazione: (2024)
CFO: Learning Continuous-Time PDE Dynamics via Flow-Matched Neural Operators
di: Hou, Xianglong, et al.
Pubblicazione: (2025)
di: Hou, Xianglong, et al.
Pubblicazione: (2025)
Small Models, Strong Priors: Architectural Inductive Bias for Parameter-Efficient Neural PDE Solvers
di: Sankaran, Shyam, et al.
Pubblicazione: (2026)
di: Sankaran, Shyam, et al.
Pubblicazione: (2026)
Grouped Differential Attention
di: Lim, Junghwan, et al.
Pubblicazione: (2025)
di: Lim, Junghwan, et al.
Pubblicazione: (2025)
Exact Linear Attention
di: Ou, Weinuo
Pubblicazione: (2026)
di: Ou, Weinuo
Pubblicazione: (2026)
Kaczmarz Linear Attention
di: Zou, Jiaxuan, et al.
Pubblicazione: (2026)
di: Zou, Jiaxuan, et al.
Pubblicazione: (2026)
Fisher-Bingham-like normalizing flows on the sphere
di: Glüsenkamp, Thorsten
Pubblicazione: (2025)
di: Glüsenkamp, Thorsten
Pubblicazione: (2025)
Paged Attention Meets FlexAttention: Unlocking Long-Context Efficiency in Deployed Inference
di: Joshi, Thomas, et al.
Pubblicazione: (2025)
di: Joshi, Thomas, et al.
Pubblicazione: (2025)
Local Linear Attention: An Optimal Interpolation of Linear and Softmax Attention For Test-Time Regression
di: Zuo, Yifei, et al.
Pubblicazione: (2025)
di: Zuo, Yifei, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Neural Operators with Localized Integral and Differential Kernels
di: Liu-Schiaffini, Miguel, et al.
Pubblicazione: (2024) -
MARA: Continuous SE(3)-Equivariant Attention for Molecular Force Fields
di: Leonardi, Francesco, et al.
Pubblicazione: (2026) -
Modulated Adaptive Fourier Neural Operators for Temporal Interpolation of Weather Forecasts
di: Leinonen, Jussi, et al.
Pubblicazione: (2024) -
Exploring the design space of deep-learning-based weather forecasting systems
di: Siddiqui, Shoaib Ahmed, et al.
Pubblicazione: (2024) -
Data-driven Surface Solar Irradiance Estimation using Neural Operators at Global Scale
di: Carpentieri, Alberto, et al.
Pubblicazione: (2024)