Buchumschlag

Sequential Attention for Feature Selection

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yasuda, Taisuke, Bateni, MohammadHossein, Chen, Lin, Fahrbach, Matthew, Fu, Gang, Mirrokni, Vahab
Format:	Preprint
Veröffentlicht:	2022
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SequentialAttention++ for Block Sparsification: Differentiable Pruning Meets Combinatorial Optimization
von: Yasuda, Taisuke, et al.
Veröffentlicht: (2024)

DeepCrossAttention: Supercharging Transformer Residual Connections
von: Heddes, Mike, et al.
Veröffentlicht: (2025)

Budget Allocation for Unknown Value Functions in a Lipschitz Space
von: Bateni, MohammadHossein, et al.
Veröffentlicht: (2025)

Approximately Optimal Core Shapes for Tensor Decompositions
von: Ghadiri, Mehrdad, et al.
Veröffentlicht: (2023)

PriorBoost: An Adaptive Algorithm for Learning from Aggregate Responses
von: Javanmard, Adel, et al.
Veröffentlicht: (2024)

Learning Rate Schedules in the Presence of Distribution Shift
von: Fahrbach, Matthew, et al.
Veröffentlicht: (2023)

Data Selection for Fine-tuning Vision Language Models via Cross Modal Alignment Trajectories
von: Naharas, Nilay, et al.
Veröffentlicht: (2025)

Replicable Composition
von: Banihashem, Kiarash, et al.
Veröffentlicht: (2026)

Learning from Aggregate responses: Instance Level versus Bag Level Loss Functions
von: Javanmard, Adel, et al.
Veröffentlicht: (2024)

A Scalable Algorithm for Individually Fair K-means Clustering
von: Bateni, MohammadHossein, et al.
Veröffentlicht: (2024)

Synthetic Text Generation for Training Large Language Models via Gradient Matching
von: Nguyen, Dang, et al.
Veröffentlicht: (2025)

SYNAPSE-G: Bridging Large Language Models and Graph Learning for Rare Event Classification
von: Tavakkol, Sasan, et al.
Veröffentlicht: (2025)

Trellis: Learning to Compress Key-Value Memory in Attention Models
von: Karami, Mahdi, et al.
Veröffentlicht: (2025)

It's All Connected: A Journey Through Test-Time Memorization, Attentional Bias, Retention, and Online Optimization
von: Behrouz, Ali, et al.
Veröffentlicht: (2025)

Smooth Anonymity for Sparse Graphs
von: Epasto, Alessandro, et al.
Veröffentlicht: (2022)

PolySketchFormer: Fast Transformers via Sketching Polynomial Kernels
von: Kacham, Praneeth, et al.
Veröffentlicht: (2023)

Optimistic Rates for Learning from Label Proportions
von: Li, Gene, et al.
Veröffentlicht: (2024)

Networked Information Aggregation for Binary Classification
von: Bateni, MohammadHossein, et al.
Veröffentlicht: (2026)

Efficient Data Selection at Scale via Influence Distillation
von: Nikdan, Mahdi, et al.
Veröffentlicht: (2025)

Optimal Approximation -- Smoothness Tradeoffs for Soft-Max Functions
von: Epasto, Alessandro, et al.
Veröffentlicht: (2020)

Lattice: Learning to Efficiently Compress the Memory
von: Karami, Mahdi, et al.
Veröffentlicht: (2025)

Understanding the Role of Training Data in Test-Time Scaling
von: Javanmard, Adel, et al.
Veröffentlicht: (2025)

Theoretical Perspectives on Data Quality and Synergistic Effects in Pre- and Post-Training Reasoning Models
von: Javanmard, Adel, et al.
Veröffentlicht: (2026)

Replicable Clustering
von: Esfandiari, Hossein, et al.
Veröffentlicht: (2023)

Titans: Learning to Memorize at Test Time
von: Behrouz, Ali, et al.
Veröffentlicht: (2024)

Improving the Variance of Differentially Private Randomized Experiments through Clustering
von: Javanmard, Adel, et al.
Veröffentlicht: (2023)

Less is More: Convergence Benefits of Fewer Data Weight Updates over Longer Horizon
von: Das, Rudrajit, et al.
Veröffentlicht: (2026)

Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing
von: Javanmard, Adel, et al.
Veröffentlicht: (2025)

Sampling and Loss Weights in Multi-Domain Training
von: Salmani, Mahdi, et al.
Veröffentlicht: (2025)

Nested Learning: The Illusion of Deep Learning Architectures
von: Behrouz, Ali, et al.
Veröffentlicht: (2025)

Feature Selection as Deep Sequential Generative Learning
von: Ying, Wangyang, et al.
Veröffentlicht: (2024)

PiKE: Adaptive Data Mixing for Large-Scale Multi-Task Learning Under Low Gradient Conflicts
von: Li, Zeman, et al.
Veröffentlicht: (2025)

MS-SSM: A Multi-Scale State Space Model for Efficient Sequence Modeling
von: Karami, Mahdi, et al.
Veröffentlicht: (2025)

ECO: Quantized Training without Full-Precision Master Weights
von: Nikdan, Mahdi, et al.
Veröffentlicht: (2026)

SubGen: Token Generation in Sublinear Time and Memory
von: Zandieh, Amir, et al.
Veröffentlicht: (2024)

TurboQuant: Online Vector Quantization with Near-optimal Distortion Rate
von: Zandieh, Amir, et al.
Veröffentlicht: (2025)

Sharper Bounds for $\ell_p$ Sensitivity Sampling
von: Woodruff, David P., et al.
Veröffentlicht: (2023)

John Ellipsoids via Lazy Updates
von: Woodruff, David P., et al.
Veröffentlicht: (2025)

Ridge Leverage Score Sampling for $\ell_p$ Subspace Approximation
von: Woodruff, David P., et al.
Veröffentlicht: (2024)

Reweighted Solutions for Weighted Low Rank Approximation
von: Woodruff, David P., et al.
Veröffentlicht: (2024)