Buchumschlag

Expressivity-Efficiency Tradeoffs for Hybrid Sequence Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Cooper, John, Diakonikolas, Ilias, Ma, Mingchen, Sala, Frederic
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Active Learning of General Halfspaces: Label Queries vs Membership Queries
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

Statistical Query Hardness of Multiclass Linear Classification with Random Classification Noise
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Learning Intersections of Two Margin Halfspaces under Factorizable Distributions
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Sample and Computationally Efficient Robust Learning of Gaussian Single-Index Models
von: Wang, Puqian, et al.
Veröffentlicht: (2024)

Information-Computation Tradeoffs for Noiseless Linear Regression with Oblivious Contamination
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Robustly Learning Monotone Single-Index Models
von: Wang, Puqian, et al.
Veröffentlicht: (2025)

Distributionally Robust Optimization with Adversarial Data Contamination
von: Li, Shuyao, et al.
Veröffentlicht: (2025)

Robustly Learning Monotone Generalized Linear Models via Data Augmentation
von: Zarifis, Nikos, et al.
Veröffentlicht: (2025)

Robustly Learning Single-Index Models via Alignment Sharpness
von: Zarifis, Nikos, et al.
Veröffentlicht: (2024)

Implicit High-Order Moment Tensor Estimation and Learning Latent Variable Models
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

A Near-optimal Algorithm for Learning Margin Halfspaces with Massart Noise
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Statistical Query Lower Bounds for Smoothed Agnostic Learning
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2026)

Learning a Single Neuron Robustly to Distributional Shifts and Adversarial Label Noise
von: Li, Shuyao, et al.
Veröffentlicht: (2024)

Weak-to-Strong Generalization Through the Data-Centric Lens
von: Shin, Changho, et al.
Veröffentlicht: (2024)

Reliable Learning of Halfspaces under Gaussian Marginals
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

How Does Unlabeled Data Provably Help Out-of-Distribution Detection?
von: Du, Xuefeng, et al.
Veröffentlicht: (2024)

Faster Algorithms for Agnostically Learning Disjunctions and their Implications
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Algorithms and SQ Lower Bounds for Robustly Learning Real-valued Multi-index Models
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Weight Updates as Activation Shifts: A Principled Framework for Steering
von: Adila, Dyah, et al.
Veröffentlicht: (2026)

High-Dimensional Gaussian Mean Estimation under Realizable Contamination
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2026)

Evaluating Sample Utility for Efficient Data Selection by Mimicking Model Weights
von: Huang, Tzu-Heng, et al.
Veröffentlicht: (2025)

Robust Learning of Multi-index Models via Iterative Subspace Approximation
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Linear Regression under Missing or Corrupted Coordinates
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Online Learning of Halfspaces with Massart Noise
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

SQ Lower Bounds for Non-Gaussian Component Analysis with Weaker Assumptions
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

Testable Learning of General Halfspaces under Massart Noise
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2026)

SoS Certificates for Sparse Singular Values and Their Applications: Robust Statistics, Subspace Distortion, and More
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

Efficient Testable Learning of General Halfspaces with Adversarial Label Noise
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

Understanding the Expressive Power and Mechanisms of Transformer for Sequence Modeling
von: Wang, Mingze, et al.
Veröffentlicht: (2024)

Replicable Distribution Testing
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

The Price of Freedom: Exploring Expressivity and Runtime Tradeoffs in Equivariant Tensor Products
von: Xie, YuQing, et al.
Veröffentlicht: (2025)

Robust Second-Order Nonconvex Optimization and Its Application to Low Rank Matrix Sensing
von: Li, Shuyao, et al.
Veröffentlicht: (2024)

Level Generation with Constrained Expressive Range
von: Bazzaz, Mahsa, et al.
Veröffentlicht: (2025)

Sample Complexity Bounds for Robust Mean Estimation with Mean-Shift Contamination
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2026)

SoS Certifiability of Subgaussian Distributions and its Algorithmic Applications
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

Efficient Multivariate Robust Mean Estimation Under Mean-Shift Contamination
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Entangled Mean Estimation in High-Dimensions
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2025)

Statistical Query Lower Bounds for Learning Truncated Gaussians
von: Diakonikolas, Ilias, et al.
Veröffentlicht: (2024)

Scaling Laws and Tradeoffs in Recurrent Networks of Expressive Neurons
von: Spieler, Aaron, et al.
Veröffentlicht: (2026)

Lyra: An Efficient and Expressive Subquadratic Architecture for Modeling Biological Sequences
von: Ramesh, Krithik, et al.
Veröffentlicht: (2025)