Exact Expressive Power of Transformers with Padding
Fuente:
arXiv
Salvato in:
| Autori principali: | Merrill, William, Sabharwal, Ashish |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Revisiting Padded Transformer Expressivity: Which Architectural Choices Matter and Which Don't
di: Svete, Anej, et al.
Pubblicazione: (2026)
di: Svete, Anej, et al.
Pubblicazione: (2026)
The Illusion of State in State-Space Models
di: Merrill, William, et al.
Pubblicazione: (2024)
di: Merrill, William, et al.
Pubblicazione: (2024)
Why Are Linear RNNs More Parallelizable?
di: Merrill, William, et al.
Pubblicazione: (2026)
di: Merrill, William, et al.
Pubblicazione: (2026)
Context-Free Recognition with Transformers
di: Jerad, Selim, et al.
Pubblicazione: (2026)
di: Jerad, Selim, et al.
Pubblicazione: (2026)
Transformers in Uniform TC$^0$
di: Chiang, David
Pubblicazione: (2024)
di: Chiang, David
Pubblicazione: (2024)
Transformers as Transducers
di: Strobl, Lena, et al.
Pubblicazione: (2024)
di: Strobl, Lena, et al.
Pubblicazione: (2024)
Power of Counting by Nonuniform Families of Polynomial-Size Finite Automata
di: Yamakami, Tomoyuki
Pubblicazione: (2023)
di: Yamakami, Tomoyuki
Pubblicazione: (2023)
Unique Hard Attention: A Tale of Two Sides
di: Jerad, Selim, et al.
Pubblicazione: (2025)
di: Jerad, Selim, et al.
Pubblicazione: (2025)
Transformers Can Represent $n$-gram Language Models
di: Svete, Anej, et al.
Pubblicazione: (2024)
di: Svete, Anej, et al.
Pubblicazione: (2024)
Proceedings of the 15th International Workshop on Non-Classical Models of Automata and Applications
di: Moreira, Nelma, et al.
Pubblicazione: (2025)
di: Moreira, Nelma, et al.
Pubblicazione: (2025)
On the complexity of computing Strahler numbers
di: Ganardi, Moses, et al.
Pubblicazione: (2025)
di: Ganardi, Moses, et al.
Pubblicazione: (2025)
Studying homing and synchronizing sequences for Timed Finite State Machines with output delays
di: Vinarskii, Evgenii, et al.
Pubblicazione: (2025)
di: Vinarskii, Evgenii, et al.
Pubblicazione: (2025)
Rational-Valued Affine Verifiers in Arthur--Merlin Proof Systems
di: Chen, Zeyu, et al.
Pubblicazione: (2025)
di: Chen, Zeyu, et al.
Pubblicazione: (2025)
Unambiguous and Co-Nondeterministic Computations of Finite Automata and Pushdown Automata Families and the Effects of Multiple Counters
di: Yamakami, Tomoyuki
Pubblicazione: (2024)
di: Yamakami, Tomoyuki
Pubblicazione: (2024)
Complexity Aspects of the Extension of Wagner's Hierarchy to $k$-Partitions
di: Podolskii, Vladimir, et al.
Pubblicazione: (2024)
di: Podolskii, Vladimir, et al.
Pubblicazione: (2024)
Regular Expressions with Backreferences and Lookaheads Capture NLOG
di: Uezato, Yuya
Pubblicazione: (2024)
di: Uezato, Yuya
Pubblicazione: (2024)
Maximal Length Cellular Automata : A Survey
di: Adak, Sumit, et al.
Pubblicazione: (2024)
di: Adak, Sumit, et al.
Pubblicazione: (2024)
Trading Determinism for Noncommutativity in Edmonds' Problem
di: Arvind, V., et al.
Pubblicazione: (2024)
di: Arvind, V., et al.
Pubblicazione: (2024)
Constant-Space, Constant-Randomness Verifiers with Arbitrarily Small Error
di: Gezer, M. Utkan, et al.
Pubblicazione: (2020)
di: Gezer, M. Utkan, et al.
Pubblicazione: (2020)
Visibly Recursive Automata
di: Dubrulle, Kévin, et al.
Pubblicazione: (2026)
di: Dubrulle, Kévin, et al.
Pubblicazione: (2026)
Between SC and LOGDCFL: Families of Languages Accepted by Logarithmic-Space Deterministic Auxiliary Depth-k Storage Automata
di: Yamakami, Tomoyuki
Pubblicazione: (2022)
di: Yamakami, Tomoyuki
Pubblicazione: (2022)
Review of Automaton Learning Algorithms with Polynomial Complexity -- Completely Solved Examples
di: Haneef, Farah
Pubblicazione: (2024)
di: Haneef, Farah
Pubblicazione: (2024)
Entropy of pebble automata and space complexity
di: Montoya, J. Andres
Pubblicazione: (2026)
di: Montoya, J. Andres
Pubblicazione: (2026)
Complexity of Unary Exclusive Nondeterministic Finite Automata
di: Kutrib, Martin, et al.
Pubblicazione: (2024)
di: Kutrib, Martin, et al.
Pubblicazione: (2024)
Intersection and Union Hierarchies of Deterministic Context-Free Languages and Pumping Lemmas
di: Yamakami, Tomoyuki
Pubblicazione: (2021)
di: Yamakami, Tomoyuki
Pubblicazione: (2021)
Proceedings 14th International Workshop on Non-Classical Models of Automata and Applications (NCMA 2024)
di: Manea, Florin, et al.
Pubblicazione: (2024)
di: Manea, Florin, et al.
Pubblicazione: (2024)
The No Endmarker Theorem for One-Way Probabilistic Pushdown Automata
di: Yamakami, Tomoyuki
Pubblicazione: (2021)
di: Yamakami, Tomoyuki
Pubblicazione: (2021)
Complexity of Fungal Automaton Prediction
di: Formenti, Enrico, et al.
Pubblicazione: (2026)
di: Formenti, Enrico, et al.
Pubblicazione: (2026)
Regular Grammars as Effective Representations of Recognizable Sets of Series-Parallel Graphs
di: Bozga, Marius, et al.
Pubblicazione: (2026)
di: Bozga, Marius, et al.
Pubblicazione: (2026)
Nondeterministic Auxiliary Depth-Bounded Storage Automata and Semi-Unbounded Fan-in Cascading Circuits
di: Yamakami, Tomoyuki
Pubblicazione: (2024)
di: Yamakami, Tomoyuki
Pubblicazione: (2024)
Synthesis of Timeline-Based Planning Strategies Avoiding Determinization
di: Acampora, Renato, et al.
Pubblicazione: (2024)
di: Acampora, Renato, et al.
Pubblicazione: (2024)
Embedding arbitrary Boolean circuits into fungal automata with arbitrary update sequences
di: Goles, Eric, et al.
Pubblicazione: (2026)
di: Goles, Eric, et al.
Pubblicazione: (2026)
Infinite Time Turing Machines and their Applications
di: Weerawarana, Rukmal, et al.
Pubblicazione: (2025)
di: Weerawarana, Rukmal, et al.
Pubblicazione: (2025)
SHAP Meets Tensor Networks: Provably Tractable Explanations with Parallelism
di: Marzouk, Reda, et al.
Pubblicazione: (2025)
di: Marzouk, Reda, et al.
Pubblicazione: (2025)
The Counting Power of Transformers
di: Sälzer, Marco, et al.
Pubblicazione: (2025)
di: Sälzer, Marco, et al.
Pubblicazione: (2025)
An Algebraic View of the Expressivity of Recurrent Language Models
di: Nowak, Franz, et al.
Pubblicazione: (2026)
di: Nowak, Franz, et al.
Pubblicazione: (2026)
The Expressive Capacity of State Space Models: A Formal Language Perspective
di: Sarrof, Yash, et al.
Pubblicazione: (2024)
di: Sarrof, Yash, et al.
Pubblicazione: (2024)
What Formal Languages Can Transformers Express? A Survey
di: Strobl, Lena, et al.
Pubblicazione: (2023)
di: Strobl, Lena, et al.
Pubblicazione: (2023)
Matching walks that are minimal with respect to edge inclusion
di: Marsault, Victor
Pubblicazione: (2024)
di: Marsault, Victor
Pubblicazione: (2024)
Membership and Conjugacy in Inverse Semigroups
di: Fleischer, Lukas, et al.
Pubblicazione: (2025)
di: Fleischer, Lukas, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Revisiting Padded Transformer Expressivity: Which Architectural Choices Matter and Which Don't
di: Svete, Anej, et al.
Pubblicazione: (2026) -
The Illusion of State in State-Space Models
di: Merrill, William, et al.
Pubblicazione: (2024) -
Why Are Linear RNNs More Parallelizable?
di: Merrill, William, et al.
Pubblicazione: (2026) -
Context-Free Recognition with Transformers
di: Jerad, Selim, et al.
Pubblicazione: (2026) -
Transformers in Uniform TC$^0$
di: Chiang, David
Pubblicazione: (2024)