Diagnosing Memorization in Chain-of-Thought Reasoning, One Token at a Time
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Li, Huihan, Chen, You, Wang, Siyuan, He, Yixin, Mehrabi, Ninareh, Gupta, Rahul, Ren, Xiang |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Tokenization Matters: Navigating Data-Scarce Tokenization for Gender Inclusive Language Technologies
par: Ovalle, Anaelia, et autres
Publié: (2023)
par: Ovalle, Anaelia, et autres
Publié: (2023)
Attributing Culture-Conditioned Generations to Pretraining Corpora
par: Li, Huihan, et autres
Publié: (2024)
par: Li, Huihan, et autres
Publié: (2024)
Data Advisor: Dynamic Data Curation for Safety Alignment of Large Language Models
par: Wang, Fei, et autres
Publié: (2024)
par: Wang, Fei, et autres
Publié: (2024)
Towards Safety Reasoning in LLMs: AI-agentic Deliberation for Policy-embedded CoT Data Creation
par: Kumarage, Tharindu, et autres
Publié: (2025)
par: Kumarage, Tharindu, et autres
Publié: (2025)
Deciphering the Factors Influencing the Efficacy of Chain-of-Thought: Probability, Memorization, and Noisy Reasoning
par: Prabhakar, Akshara, et autres
Publié: (2024)
par: Prabhakar, Akshara, et autres
Publié: (2024)
FERRET: Framework for Expansion Reliant Red Teaming
par: Mehrabi, Ninareh, et autres
Publié: (2026)
par: Mehrabi, Ninareh, et autres
Publié: (2026)
Amplify Adjacent Token Differences: Enhancing Long Chain-of-Thought Reasoning with Shift-FFN
par: Xu, Yao, et autres
Publié: (2025)
par: Xu, Yao, et autres
Publié: (2025)
DiCoRe: Enhancing Zero-shot Event Detection via Divergent-Convergent LLM Reasoning
par: Parekh, Tanmay, et autres
Publié: (2025)
par: Parekh, Tanmay, et autres
Publié: (2025)
TokenSkip: Controllable Chain-of-Thought Compression in LLMs
par: Xia, Heming, et autres
Publié: (2025)
par: Xia, Heming, et autres
Publié: (2025)
Chain-of-Thought Tokens are Computer Program Variables
par: Zhu, Fangwei, et autres
Publié: (2025)
par: Zhu, Fangwei, et autres
Publié: (2025)
SafeChain: Safety of Language Models with Long Chain-of-Thought Reasoning Capabilities
par: Jiang, Fengqing, et autres
Publié: (2025)
par: Jiang, Fengqing, et autres
Publié: (2025)
Explainable Chain-of-Thought Reasoning: An Empirical Analysis on State-Aware Reasoning Dynamics
par: Yu, Sheldon, et autres
Publié: (2025)
par: Yu, Sheldon, et autres
Publié: (2025)
How does Chain of Thought Think? Mechanistic Interpretability of Chain-of-Thought Reasoning with Sparse Autoencoding
par: Chen, Xi, et autres
Publié: (2025)
par: Chen, Xi, et autres
Publié: (2025)
Supervised Chain of Thought
par: Zhang, Xiang, et autres
Publié: (2024)
par: Zhang, Xiang, et autres
Publié: (2024)
Kaleidoscopic Teaming in Multi Agent Simulations
par: Mehrabi, Ninareh, et autres
Publié: (2025)
par: Mehrabi, Ninareh, et autres
Publié: (2025)
Latent Chain-of-Thought for Visual Reasoning
par: Sun, Guohao, et autres
Publié: (2025)
par: Sun, Guohao, et autres
Publié: (2025)
Strategize Globally, Adapt Locally: A Multi-Turn Red Teaming Agent with Dual-Level Learning
par: Chen, Si, et autres
Publié: (2025)
par: Chen, Si, et autres
Publié: (2025)
The Molecular Structure of Thought: Mapping the Topology of Long Chain-of-Thought Reasoning
par: Chen, Qiguang, et autres
Publié: (2026)
par: Chen, Qiguang, et autres
Publié: (2026)
In Search of the Long-Tail: Systematic Generation of Long-Tail Inferential Knowledge via Logical Rule Guided Search
par: Li, Huihan, et autres
Publié: (2023)
par: Li, Huihan, et autres
Publié: (2023)
DICE: Structured Reasoning in LLMs through SLM-Guided Chain-of-Thought Correction
par: Li, Yiqi, et autres
Publié: (2025)
par: Li, Yiqi, et autres
Publié: (2025)
Token Signature: Predicting Chain-of-Thought Gains with Token Decoding Feature in Large Language Models
par: Liu, Peijie, et autres
Publié: (2025)
par: Liu, Peijie, et autres
Publié: (2025)
GRACE: Discriminator-Guided Chain-of-Thought Reasoning
par: Khalifa, Muhammad, et autres
Publié: (2023)
par: Khalifa, Muhammad, et autres
Publié: (2023)
MONICA: Real-Time Monitoring and Calibration of Chain-of-Thought Sycophancy in Large Reasoning Models
par: Hu, Jingyu, et autres
Publié: (2025)
par: Hu, Jingyu, et autres
Publié: (2025)
Expanding Reasoning Potential in Foundation Model by Learning Diverse Chains of Thought Patterns
par: Zhang, Xuemiao, et autres
Publié: (2025)
par: Zhang, Xuemiao, et autres
Publié: (2025)
Beyond Chain-of-Thought: A Survey of Chain-of-X Paradigms for LLMs
par: Xia, Yu, et autres
Publié: (2024)
par: Xia, Yu, et autres
Publié: (2024)
Fractured Chain-of-Thought Reasoning
par: Liao, Baohao, et autres
Publié: (2025)
par: Liao, Baohao, et autres
Publié: (2025)
LaRS: Latent Reasoning Skills for Chain-of-Thought Reasoning
par: Xu, Zifan, et autres
Publié: (2023)
par: Xu, Zifan, et autres
Publié: (2023)
Reasoning about Reasoning: BAPO Bounds on Chain-of-Thought Token Complexity in LLMs
par: Tomlinson, Kiran, et autres
Publié: (2026)
par: Tomlinson, Kiran, et autres
Publié: (2026)
Diffusion of Thoughts: Chain-of-Thought Reasoning in Diffusion Language Models
par: Ye, Jiacheng, et autres
Publié: (2024)
par: Ye, Jiacheng, et autres
Publié: (2024)
ETR: Entropy Trend Reward for Efficient Chain-of-Thought Reasoning
par: Xiong, Xuan, et autres
Publié: (2026)
par: Xiong, Xuan, et autres
Publié: (2026)
Scalable Chain of Thoughts via Elastic Reasoning
par: Xu, Yuhui, et autres
Publié: (2025)
par: Xu, Yuhui, et autres
Publié: (2025)
Table as Thought: Exploring Structured Thoughts in LLM Reasoning
par: Sun, Zhenjie, et autres
Publié: (2025)
par: Sun, Zhenjie, et autres
Publié: (2025)
To Reason or Not to: Selective Chain-of-Thought in Medical Question Answering
par: Zhan, Zaifu, et autres
Publié: (2026)
par: Zhan, Zaifu, et autres
Publié: (2026)
Understanding Reasoning in Chain-of-Thought from the Hopfieldian View
par: Hu, Lijie, et autres
Publié: (2024)
par: Hu, Lijie, et autres
Publié: (2024)
Enhancing Depression Detection with Chain-of-Thought Prompting: From Emotion to Reasoning Using Large Language Models
par: Teng, Shiyu, et autres
Publié: (2025)
par: Teng, Shiyu, et autres
Publié: (2025)
Markov Chain of Thought for Efficient Mathematical Reasoning
par: Yang, Wen, et autres
Publié: (2024)
par: Yang, Wen, et autres
Publié: (2024)
Enhancing Auto-regressive Chain-of-Thought through Loop-Aligned Reasoning
par: Yu, Qifan, et autres
Publié: (2025)
par: Yu, Qifan, et autres
Publié: (2025)
Navigate through Enigmatic Labyrinth A Survey of Chain of Thought Reasoning: Advances, Frontiers and Future
par: Chu, Zheng, et autres
Publié: (2023)
par: Chu, Zheng, et autres
Publié: (2023)
Latent Chain-of-Thought as Planning: Decoupling Reasoning from Verbalization
par: Wang, Jiecong, et autres
Publié: (2026)
par: Wang, Jiecong, et autres
Publié: (2026)
DRT: Deep Reasoning Translation via Long Chain-of-Thought
par: Wang, Jiaan, et autres
Publié: (2024)
par: Wang, Jiaan, et autres
Publié: (2024)
Documents similaires
-
Tokenization Matters: Navigating Data-Scarce Tokenization for Gender Inclusive Language Technologies
par: Ovalle, Anaelia, et autres
Publié: (2023) -
Attributing Culture-Conditioned Generations to Pretraining Corpora
par: Li, Huihan, et autres
Publié: (2024) -
Data Advisor: Dynamic Data Curation for Safety Alignment of Large Language Models
par: Wang, Fei, et autres
Publié: (2024) -
Towards Safety Reasoning in LLMs: AI-agentic Deliberation for Policy-embedded CoT Data Creation
par: Kumarage, Tharindu, et autres
Publié: (2025) -
Deciphering the Factors Influencing the Efficacy of Chain-of-Thought: Probability, Memorization, and Noisy Reasoning
par: Prabhakar, Akshara, et autres
Publié: (2024)