Buchumschlag

The Spectral Geometry of Thought: Phase Transitions, Instruction Reversal, Token-Level Dynamics, and Perfect Correctness Prediction in How Transformers Reason

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Liu, Yi
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Confidence Geometry Reveals Trace-Level Correctness in Large Language Model Reasoning
von: Liu, Shuo, et al.
Veröffentlicht: (2026)

The Kinetics of Reasoning: How Chain-of-Thought Shapes Learning in Transformers?
von: Pengmei, Zihan, et al.
Veröffentlicht: (2025)

Spectral Journey: How Transformers Predict the Shortest Path
von: Cohen, Andrew, et al.
Veröffentlicht: (2025)

How Transformers Learn to Plan via Multi-Token Prediction
von: Huang, Jianhao, et al.
Veröffentlicht: (2026)

Spatiotemporal Multi-Task Graph Transformer for Trip-Level Transit Prediction
von: Yusuf, Oluwaleke, et al.
Veröffentlicht: (2026)

Dynamics of the Transformer Residual Stream: Coupling Spectral Geometry to Network Topology
von: Fernando, Jesseba, et al.
Veröffentlicht: (2026)

The Geometry of Thought: How Scale Restructures Reasoning In Large Language Models
von: Anderson, Samuel Cyrenius
Veröffentlicht: (2026)

Bridging Formal Language with Chain-of-Thought Reasoning to Geometry Problem Solving
von: Yang, Tianyun, et al.
Veröffentlicht: (2025)

CTRLS: Chain-of-Thought Reasoning via Latent State-Transition
von: Wu, Junda, et al.
Veröffentlicht: (2025)

Technical Report: The Graph Spectral Token -- Enhancing Graph Transformers with Spectral Information
von: Pengmei, Zihan, et al.
Veröffentlicht: (2024)

Spectral Kernel Dynamics via Maximum Caliber: Fixed Points, Geodesics, and Phase Transitions
von: Das, Jnaneshwar
Veröffentlicht: (2026)

One-Token Verification for Reasoning Correctness Estimation
von: Zhuang, Zhan, et al.
Veröffentlicht: (2026)

Spectral Edge Dynamics: An Analytical-Empirical Study of Phase Transitions in Neural Network Training
von: Xu, Yongzhong
Veröffentlicht: (2026)

The Coupling Tax: How Shared Token Budgets Undermine Visible Chain-of-Thought Under Fixed Output Limits
von: Nie, Wenhua, et al.
Veröffentlicht: (2026)

Global-Lens Transformers: Adaptive Token Mixing for Dynamic Link Prediction
von: Zou, Tao, et al.
Veröffentlicht: (2025)

How do Transformers Learn Implicit Reasoning?
von: Ye, Jiaran, et al.
Veröffentlicht: (2025)

Spectral Entropy Collapse as a Phase Transition in Delayed Generalisation: An Interventional and Predictive Framework for Grokkin
von: Khanh, Truong Xuan, et al.
Veröffentlicht: (2026)

Missing-Data-Induced Phase Transitions in Spectral PLS for Multimodal Learning
von: Gjølbye, Anders, et al.
Veröffentlicht: (2026)

Reasoning with Latent Thoughts: On the Power of Looped Transformers
von: Saunshi, Nikunj, et al.
Veröffentlicht: (2025)

Compositional Reasoning with Transformers, RNNs, and Chain of Thought
von: Yehudai, Gilad, et al.
Veröffentlicht: (2025)

Reasoning about Reasoning: BAPO Bounds on Chain-of-Thought Token Complexity in LLMs
von: Tomlinson, Kiran, et al.
Veröffentlicht: (2026)

The Spectral Lifecycle of Transformer Training: Transient Compression Waves, Persistent Spectral Gradients, and the Q/K--V Asymmetry
von: Liu, Yi
Veröffentlicht: (2026)

Reverse Transition Kernel: A Flexible Framework to Accelerate Diffusion Inference
von: Huang, Xunpeng, et al.
Veröffentlicht: (2024)

Catapult Dynamics and Phase Transitions in Quadratic Nets
von: Meltzer, David, et al.
Veröffentlicht: (2023)

Towards Understanding the Universality of Transformers for Next-Token Prediction
von: Sander, Michael E., et al.
Veröffentlicht: (2024)

Lower Bounds for Chain-of-Thought Reasoning in Hard-Attention Transformers
von: Amiri, Alireza, et al.
Veröffentlicht: (2025)

Retrieval-of-Thought: Efficient Reasoning via Reusing Thoughts
von: Ahmed, Ammar, et al.
Veröffentlicht: (2025)

Symbolic Analysis of Grover Search Algorithm via Chain-of-Thought Reasoning and Quantum-Native Tokenization
von: Chen, Min, et al.
Veröffentlicht: (2025)

Reasoning Bias of Next Token Prediction Training
von: Lin, Pengxiao, et al.
Veröffentlicht: (2025)

Dynamic Chain-of-Thought: Towards Adaptive Deep Reasoning
von: Wang, Libo
Veröffentlicht: (2025)

Geometry of Reason: Spectral Signatures of Valid Mathematical Reasoning
von: Noël, Valentin
Veröffentlicht: (2026)

Grid-World Representations in Transformers Reflect Predictive Geometry
von: Brenner, Sasha, et al.
Veröffentlicht: (2026)

Efficient Real-Time Aircraft ETA Prediction via Feature Tokenization Transformer
von: Huang, Liping, et al.
Veröffentlicht: (2025)

Shape of Thought: When Distribution Matters More than Correctness in Reasoning Tasks
von: Chandra, Abhranil, et al.
Veröffentlicht: (2025)

Predicting Atomistic Transitions with Transformers
von: Tischler, Henry, et al.
Veröffentlicht: (2026)

InstMeter: An Instruction-Level Method to Predict Energy and Latency of DL Model Inference on MCUs
von: Liu, Hao, et al.
Veröffentlicht: (2026)

Meaningless Tokens, Meaningful Gains: How Activation Shifts Enhance LLM Reasoning
von: Shi, Zeru, et al.
Veröffentlicht: (2025)

Spectral Thresholds for Identifiability and Stability:Finite-Sample Phase Transitions in High-Dimensional Learning
von: Huang, William Hao-Cheng
Veröffentlicht: (2025)

How Reinforcement Learning After Next-Token Prediction Facilitates Learning
von: Tsilivis, Nikolaos, et al.
Veröffentlicht: (2025)

Critical Tokens Matter: Token-Level Contrastive Estimation Enhances LLM's Reasoning Capability
von: Lin, Zicheng, et al.
Veröffentlicht: (2024)