Buchumschlag

Quantifying Logical Consistency in Transformers via Query-Key Alignment

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tulchinskii, Eduard, Voznyuk, Anastasia, Kushnareva, Laida, Andriiainen, Andrei, Piontkovskaya, Irina, Burnaev, Evgeny, Barannikov, Serguei
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Information Theory Machine Learning Logic
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Listening to the Wise Few: Select-and-Copy Attention Heads for Multiple-Choice QA
von: Tulchinskii, Eduard, et al.
Veröffentlicht: (2024)

Feature-Level Insights into Artificial Text Detection with Sparse Autoencoders
von: Kuznetsov, Kristian, et al.
Veröffentlicht: (2025)

Intrinsic Dimension Estimation for Robust Detection of AI-Generated Texts
von: Tulchinskii, Eduard, et al.
Veröffentlicht: (2023)

Robust AI-Generated Text Detection by Restricted Embeddings
von: Kuznetsov, Kristian, et al.
Veröffentlicht: (2024)

AI-generated text boundary detection with RoFT
von: Kushnareva, Laida, et al.
Veröffentlicht: (2023)

Unveiling Intrinsic Dimension of Texts: from Academic Abstract to Creative Story
von: Pedashenko, Vladislav, et al.
Veröffentlicht: (2025)

RTD-Lite: Scalable Topological Analysis for Comparing Weighted Graphs in Learning Tasks
von: Tulchinskii, Eduard, et al.
Veröffentlicht: (2025)

Scalar Function Topology Divergence: Comparing Topology of 3D Objects
von: Trofimov, Ilya, et al.
Veröffentlicht: (2024)

Improving Interpretability and Robustness for the Detection of AI-Generated Images
von: Gaintseva, Tatiana, et al.
Veröffentlicht: (2024)

Disentanglement Learning via Topology
von: Balabin, Nikita, et al.
Veröffentlicht: (2023)

Edge-wise Topological Divergence Gaps: Guiding Search in Combinatorial Optimization
von: Trofimov, Ilya, et al.
Veröffentlicht: (2025)

The Density of Cross-Persistence Diagrams and Its Applications
von: Mironenko, Alexander, et al.
Veröffentlicht: (2026)

Coding-Logic Correspondence: Turning Information and Communication Networks into Logical Formulae via Hypergraph Heyting Algebra
von: Li, Cheuk Ting
Veröffentlicht: (2025)

Compression of enumerations and gain
von: Barmpalias, George, et al.
Veröffentlicht: (2023)

Gradual Exact Logic: Unifying Hoare Logic and Incorrectness Logic via Gradual Verification
von: Zimmerman, Conrad, et al.
Veröffentlicht: (2024)

Aligning with Logic: Measuring, Evaluating and Improving Logical Preference Consistency in Large Language Models
von: Liu, Yinhong, et al.
Veröffentlicht: (2024)

Compositional Consistency-Guided Decoding for Three-Way Logical Question Answering
von: Huang, Tianyi, et al.
Veröffentlicht: (2026)

The Transformation Logics
von: Ronca, Alessandro
Veröffentlicht: (2023)

Loss Barcode: A Topological Measure of Escapability in Loss Landscapes
von: Barannikov, Serguei, et al.
Veröffentlicht: (2020)

Implementing a Knowledge-Based Library Information System with Typed Horn Logic.
von: Ait-Kaci, Hassan, et al.
Veröffentlicht: (1990)

Nested Sequents for Horn-Characterizable Quantified Modal Logics with Equality via Reachability Rules
von: Lyon, Tim S., et al.
Veröffentlicht: (2026)

Positive First-order Logic on Words and Graphs
von: Kuperberg, Denis
Veröffentlicht: (2022)

Incompleteness in Quantified Conditional Logic
von: Kocurek, Alexander W., et al.
Veröffentlicht: (2026)

The Alternation Hierarchy of First-Order Logic on Words is Decidable
von: Barloy, Corentin, et al.
Veröffentlicht: (2025)

Formal Verification of a Token Sale Launchpad: A Compositional Approach in Dafny
von: Ukhanov, Evgeny
Veröffentlicht: (2025)

The Role of Logic and Automata in Understanding Transformers
von: Lin, Anthony W., et al.
Veröffentlicht: (2025)

Some General Completeness Results for Propositionally Quantified Modal Logics
von: Ding, Yifeng, et al.
Veröffentlicht: (2024)

Canonicity for Cost-Aware Logical Framework via Synthetic Tait Computability
von: Li, Runming, et al.
Veröffentlicht: (2025)

A Simple Algorithm for Consistent Query Answering under Primary Keys
von: Figueira, Diego, et al.
Veröffentlicht: (2023)

Unrealizability Logic
von: Kim, Jinwoo, et al.
Veröffentlicht: (2022)

The Lambda Calculus is Quantifiable
von: Maestracci, Valentin, et al.
Veröffentlicht: (2024)

Counting Like Transformers: Compiling Temporal Counting Logic Into Softmax Transformers
von: Yang, Andy, et al.
Veröffentlicht: (2024)

Partial Incorrectness Logic
von: Verscht, Lena, et al.
Veröffentlicht: (2025)

Towards a Unification of Logic and Information Theory
von: Lastras, Luis A., et al.
Veröffentlicht: (2023)

Quantifier Elimination and Craig Interpolation, Quantitatively
von: Batz, Kevin, et al.
Veröffentlicht: (2025)

Outcome Logic: A Unified Approach to the Metatheory of Program Logics with Branching Effects
von: Zilberstein, Noam
Veröffentlicht: (2024)

A Taxonomy of Hoare-Like Logics: Towards a Holistic View using Predicate Transformers and Kleene Algebras with Top and Tests
von: Verscht, Lena, et al.
Veröffentlicht: (2024)

Recursive Mutexes in Separation Logic
von: Du, Ke, et al.
Veröffentlicht: (2026)

Logic Programming with Extensible Types
von: Perez, Ivan, et al.
Veröffentlicht: (2026)

Finite-Choice Logic Programming
von: Martens, Chris, et al.
Veröffentlicht: (2024)