Circuit Complexity Bounds for RoPE-based Transformer Architecture

Ähnliche Einträge

• Theoretical Constraints on the Expressive Power of $\mathsf{RoPE}$-based Tensor Attention Transformers
  von: Li, Xiaoyu, et al.
  Veröffentlicht: (2024)
• RoPE Attention Can Be Trained in Almost Linear Time
  von: Cao, Yang, et al.
  Veröffentlicht: (2024)
• Circuit Complexity Bounds for Visual Autoregressive Model
  von: Ke, Yekun, et al.
  Veröffentlicht: (2025)
• The Computational Limits of State-Space Models and Mamba via the Lens of Circuit Complexity
  von: Chen, Yifang, et al.
  Veröffentlicht: (2024)
• On the Computational Capability of Graph Neural Networks: A Circuit Complexity Bound Perspective
  von: Li, Xiaoyu, et al.
  Veröffentlicht: (2025)