Copertina

Fast RoPE Attention: Combining the Polynomial Method and Fast Fourier Transform

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Alman, Josh, Song, Zhao
Natura:	Preprint
Pubblicazione:	2025
Soggetti:	Machine Learning Data Structures and Algorithms
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

The Fine-Grained Complexity of Gradient Computation for Training Large Language Models
di: Alman, Josh, et al.
Pubblicazione: (2024)

Tensor Sketch: Fast and Scalable Polynomial Kernel Approximation
di: Pham, Ninh, et al.
Pubblicazione: (2025)

Fast and Efficient Matching Algorithm with Deadline Instances
di: Song, Zhao, et al.
Pubblicazione: (2023)

Fast and Simple Densest Subgraph with Predictions
di: Bui, Thai, et al.
Pubblicazione: (2025)

Fast, robust approximate message passing
di: Ivkov, Misha, et al.
Pubblicazione: (2024)

Faster Algorithms for Average-Case Orthogonal Vectors and Closest Pair Problems
di: Alman, Josh, et al.
Pubblicazione: (2024)

A Refined Laser Method and Faster Matrix Multiplication
di: Alman, Josh, et al.
Pubblicazione: (2020)

Fast online node labeling with graph subsampling
di: Huang, Yushen, et al.
Pubblicazione: (2025)

Fast John Ellipsoid Computation with Differential Privacy Optimization
di: Li, Xiaoyu, et al.
Pubblicazione: (2024)

Accelerating Matroid Optimization through Fast Imprecise Oracles
di: Eberle, Franziska, et al.
Pubblicazione: (2024)

Fast-MWEM: Private Data Release in Sublinear Time
di: Haris, Themistoklis, et al.
Pubblicazione: (2026)

Kronecker Powers, Orthogonal Vectors, and the Asymptotic Spectrum
di: Alman, Josh, et al.
Pubblicazione: (2025)

Asymptotic Rank Speedup Theorems, Revisited
di: Alman, Josh, et al.
Pubblicazione: (2026)

Finer-Grained Hardness of Kernel Density Estimation
di: Alman, Josh, et al.
Pubblicazione: (2024)

New Bounds for Kernel Sums via Fast Spherical Embeddings
di: Wagner, Tal
Pubblicazione: (2026)

Fast and Accurate Triangle Counting in Graph Streams Using Predictions
di: Boldrin, Cristian, et al.
Pubblicazione: (2024)

Learning Mixture Models via Efficient High-dimensional Sparse Fourier Transforms
di: Kalavasis, Alkis, et al.
Pubblicazione: (2026)

Approximating High-Dimensional Earth Mover's Distance as Fast as Closest Pair
di: Beretta, Lorenzo, et al.
Pubblicazione: (2025)

Fast White-Box Adversarial Streaming Without a Random Oracle
di: Feng, Ying, et al.
Pubblicazione: (2024)

Inner Product Aware Quantization: Provably Fast, Accurate, and Adaptive Algorithms
di: White, Nathan, et al.
Pubblicazione: (2026)

Fast Adaptive Non-Monotone Submodular Maximization Subject to a Knapsack Constraint
di: Amanatidis, Georgios, et al.
Pubblicazione: (2020)

Fast and explainable clustering based on sorting
di: Chen, Xinye, et al.
Pubblicazione: (2022)

Accelerating Power Method with Fast Sketching for Stronger Low-Rank Approximation
di: Chenakkod, Shabarish, et al.
Pubblicazione: (2026)

Faster exact learning of k-term DNFs with membership and equivalence queries
di: Alman, Josh, et al.
Pubblicazione: (2025)

$k$NN Attention Demystified: A Theoretical Exploration for Scalable Transformers
di: Haris, Themistoklis
Pubblicazione: (2024)

Fit Like You Sample: Sample-Efficient Generalized Score Matching from Fast Mixing Diffusions
di: Qin, Yilong, et al.
Pubblicazione: (2023)

Outlier Robust Multivariate Polynomial Regression
di: Arora, Vipul, et al.
Pubblicazione: (2024)

Testably Learning Polynomial Threshold Functions
di: Slot, Lucas, et al.
Pubblicazione: (2024)

Fast Agnostic Learners in the Plane
di: Eden, Talya, et al.
Pubblicazione: (2025)

Fast EXP3 Algorithms
di: Sato, Ryoma, et al.
Pubblicazione: (2025)

DNF Learning via Locally Mixing Random Walks
di: Alman, Josh, et al.
Pubblicazione: (2025)

A Dynamic Low-Rank Fast Gaussian Transform
di: Huang, Baihe, et al.
Pubblicazione: (2022)

Fast Partition-Based Cross-Validation With Centering and Scaling for $\mathbf{X}^\mathbf{T}\mathbf{X}$ and $\mathbf{X}^\mathbf{T}\mathbf{Y}$
di: Engstrøm, Ole-Christian Galbo, et al.
Pubblicazione: (2024)

Fast parallel sampling under isoperimetry
di: Anari, Nima, et al.
Pubblicazione: (2024)

Deterministic Policies for Constrained Reinforcement Learning in Polynomial Time
di: McMahan, Jeremy
Pubblicazione: (2024)

A Fully Polynomial-Time Algorithm for Robustly Learning Halfspaces over the Hypercube
di: Chandrasekaran, Gautam, et al.
Pubblicazione: (2025)

Polynomial-time derivation of optimal k-tree topology from Markov networks
di: Dastjerdi, Fereshteh R., et al.
Pubblicazione: (2024)

LevAttention: Time, Space, and Streaming Efficient Algorithm for Heavy Attentions
di: Kannan, Ravindran, et al.
Pubblicazione: (2024)

Fast Tensor Completion via Approximate Richardson Iteration
di: Ghadiri, Mehrdad, et al.
Pubblicazione: (2025)

A Bi-metric Framework for Fast Similarity Search
di: Xu, Haike, et al.
Pubblicazione: (2024)