Buchumschlag

Simulating Weighted Automata over Sequences and Trees with Transformers

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Rizvi, Michael, Lizaire, Maude, Lacroce, Clara, Rabusseau, Guillaume
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence Computational Complexity
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Optimal Approximate Minimization of One-Letter Weighted Finite Automata
von: Lacroce, Clara, et al.
Veröffentlicht: (2023)

Quantifying over Optimum Answer Sets
von: Mazzotta, Giuseppe, et al.
Veröffentlicht: (2024)

Neural Algorithmic Reasoning for Hypergraphs with Looped Transformers
von: Huang, Zekai, et al.
Veröffentlicht: (2025)

Circuit Complexity Bounds for RoPE-based Transformer Architecture
von: Chen, Bo, et al.
Veröffentlicht: (2024)

Time and Memory Trade-off of KV-Cache Compression in Tensor Transformer Decoding
von: Chen, Yifang, et al.
Veröffentlicht: (2025)

CMAT: A Multi-Agent Collaboration Tuning Framework for Enhancing Small Language Models
von: Liang, Xuechen, et al.
Veröffentlicht: (2024)

Journalists, Emotions, and the Introduction of Generative AI Chatbots: A Large-Scale Analysis of Tweets Before and After the Launch of ChatGPT
von: Lewis, Seth C., et al.
Veröffentlicht: (2024)

BigO(Bench) -- Can LLMs Generate Code with Controlled Time and Space Complexity?
von: Chambon, Pierre, et al.
Veröffentlicht: (2025)

Theoretical Constraints on the Expressive Power of $\mathsf{RoPE}$-based Tensor Attention Transformers
von: Li, Xiaoyu, et al.
Veröffentlicht: (2024)

Transformers Can Represent $n$-gram Language Models
von: Svete, Anej, et al.
Veröffentlicht: (2024)

Revisiting Padded Transformer Expressivity: Which Architectural Choices Matter and Which Don't
von: Svete, Anej, et al.
Veröffentlicht: (2026)

RoPE Attention Can Be Trained in Almost Linear Time
von: Cao, Yang, et al.
Veröffentlicht: (2024)

Modern Hopfield Networks Require Chain-of-Thought to Solve $\mathsf{NC}^1$-Hard Problems
von: Cao, Yang, et al.
Veröffentlicht: (2024)

The Computational Limits of State-Space Models and Mamba via the Lens of Circuit Complexity
von: Chen, Yifang, et al.
Veröffentlicht: (2024)

On Fine-Grained I/O Complexity of Attention Backward Passes
von: Li, Xiaoyu, et al.
Veröffentlicht: (2024)

Unlocking the Theory Behind Scaling 1-Bit Neural Networks
von: Daliri, Majid, et al.
Veröffentlicht: (2024)

A Measure-Theoretic Analysis of Reasoning: Structural Generalization and Approximation Limits
von: Zhang, Yuyang, et al.
Veröffentlicht: (2026)

NPHardEval: Dynamic Benchmark on Reasoning Ability of Large Language Models via Complexity Classes
von: Fan, Lizhou, et al.
Veröffentlicht: (2023)

Demystifying the unreasonable effectiveness of online alignment methods
von: Kang, Enoch Hyunwook
Veröffentlicht: (2026)

Circuit Complexity Bounds for Visual Autoregressive Model
von: Ke, Yekun, et al.
Veröffentlicht: (2025)

2-ASP(Q) programs with weak constraints: Complexity and efficient implementation
von: Cuteri, Andrea, et al.
Veröffentlicht: (2026)

On the Role of Depth in the Expressivity of RNNs
von: Lizaire, Maude, et al.
Veröffentlicht: (2026)

Capturing P: On the Expressive Power and Efficient Evaluation of Boolean Retrieval
von: Aavani, Amir
Veröffentlicht: (2026)

Barriers to Complexity-Theoretic Proofs that "AGI" Using Machine Learning is Impossible
von: Guerzhoy, Michael
Veröffentlicht: (2024)

Computability of Agentic Systems
von: Viriyasuthee, Chatavut
Veröffentlicht: (2026)

Learning Tree Pattern Transformations
von: Neider, Daniel, et al.
Veröffentlicht: (2024)

Exact Algorithms for Multiagent Path Finding with Communication Constraints on Tree-Like Structures
von: Fioravantes, Foivos, et al.
Veröffentlicht: (2024)

Visibly Recursive Automata
von: Dubrulle, Kévin, et al.
Veröffentlicht: (2026)

Position: Scaling LLM Agents Requires Asymptotic Analysis with LLM Primitives
von: Meyerson, Elliot, et al.
Veröffentlicht: (2025)

Complexity of Scheduling Charging in the Smart Grid
von: de Weerdt, Mathijs, et al.
Veröffentlicht: (2017)

Deterministic Weighted Automata under Partial Observability
von: Michaliszyn, Jakub, et al.
Veröffentlicht: (2024)

Spectra of Cardinality Queries over Description Logic Knowledge Bases
von: Manière, Quentin, et al.
Veröffentlicht: (2024)

The Illusion of Superposition? A Principled Analysis of Latent Thinking in Language Models
von: Rizvi-Martel, Michael, et al.
Veröffentlicht: (2026)

Unambiguous and Co-Nondeterministic Computations of Finite Automata and Pushdown Automata Families and the Effects of Multiple Counters
von: Yamakami, Tomoyuki
Veröffentlicht: (2024)

When Can We Solve the Weighted Low Rank Approximation Problem in Truly Subquadratic Time?
von: Li, Chenyang, et al.
Veröffentlicht: (2025)

Nearest Neighbor CCP-Based Molecular Sequence Analysis
von: Ali, Sarwan, et al.
Veröffentlicht: (2024)

Provably Overwhelming Transformer Models with Designed Inputs
von: Stambler, Lev, et al.
Veröffentlicht: (2025)

ROSA: Random Subspace Adaptation for Efficient Fine-Tuning
von: Hameed, Marawan Gamal Abdel, et al.
Veröffentlicht: (2024)

AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security
von: Liu, Dongrui, et al.
Veröffentlicht: (2026)

Maximal Length Cellular Automata : A Survey
von: Adak, Sumit, et al.
Veröffentlicht: (2024)