Buchumschlag

Demystifying the Roles of LLM Layers in Retrieval, Knowledge, and Reasoning

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Song, Xinyuan, Wang, Keyu, Li, PengXiang, Yin, Lu, Liu, Shiwei
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

When Fewer Layers Break More Chains: Layer Pruning Harms Test-Time Scaling in LLMs
von: Wang, Keyu, et al.
Veröffentlicht: (2025)

Mix-LN: Unleashing the Power of Deeper Layers by Combining Pre-LN and Post-LN
von: Li, Pengxiang, et al.
Veröffentlicht: (2024)

One LR Doesn't Fit All: Heavy-Tail Guided Layerwise Learning Rates for LLMs
von: He, Di, et al.
Veröffentlicht: (2026)

The Curse of Depth in Large Language Models
von: Sun, Wenfang, et al.
Veröffentlicht: (2025)

Demystifying Video Reasoning
von: Wang, Ruisi, et al.
Veröffentlicht: (2026)

Reason-to-Recommend: Using Interaction-of-Thought Reasoning to Enhance LLM Recommendation
von: Zhao, Keyu, et al.
Veröffentlicht: (2025)

Demystifying Reasoning Dynamics with Mutual Information: Thinking Tokens are Information Peaks in LLM Reasoning
von: Qian, Chen, et al.
Veröffentlicht: (2025)

Graph-Augmented Reasoning: Evolving Step-by-Step Knowledge Graph Retrieval for LLM Reasoning
von: Wu, Wenjie, et al.
Veröffentlicht: (2025)

Outlier-weighed Layerwise Sampling for LLM Fine-tuning
von: Li, Pengxiang, et al.
Veröffentlicht: (2024)

LLM Routing as Reasoning: A MaxSAT View
von: Nguyen, Son, et al.
Veröffentlicht: (2026)

Demystifying Issues, Causes and Solutions in LLM Open-Source Projects
von: Cai, Yangxiao, et al.
Veröffentlicht: (2024)

CTIArena: Benchmarking LLM Knowledge and Reasoning Across Heterogeneous Cyber Threat Intelligence
von: Cheng, Yutong, et al.
Veröffentlicht: (2025)

Plan Then Retrieve: Reinforcement Learning-Guided Complex Reasoning over Knowledge Graphs
von: Song, Yanlin, et al.
Veröffentlicht: (2025)

PEA: Enhancing LLM Performance on Computational-Reasoning Tasks
von: Wang, Zi, et al.
Veröffentlicht: (2025)

Towards Effective In-context Cross-domain Knowledge Transfer via Domain-invariant-neurons-based Retrieval
von: Yan, Jianzhi, et al.
Veröffentlicht: (2026)

Code Copycat Conundrum: Demystifying Repetition in LLM-based Code Generation
von: Liu, Mingwei, et al.
Veröffentlicht: (2025)

Reason Analogically via Cross-domain Prior Knowledge: An Empirical Study of Cross-domain Knowledge Transfer for In-Context Learning
von: Liu, Le, et al.
Veröffentlicht: (2026)

KRAL: Knowledge and Reasoning Augmented Learning for LLM-assisted Clinical Antimicrobial Therapy
von: Li, Zhe, et al.
Veröffentlicht: (2025)

Logical Reasoning with Relation Network for Inductive Knowledge Graph Completion
von: Zhang, Qinggang, et al.
Veröffentlicht: (2024)

MemR$^3$: Memory Retrieval via Reflective Reasoning for LLM Agents
von: Du, Xingbo, et al.
Veröffentlicht: (2025)

Search and Refine During Think: Facilitating Knowledge Refinement for Improved Retrieval-Augmented Reasoning
von: Shi, Yaorui, et al.
Veröffentlicht: (2025)

Retrieval-Infused Reasoning Sandbox: A Benchmark for Decoupling Retrieval and Reasoning Capabilities
von: Ying, Shuangshuang, et al.
Veröffentlicht: (2026)

SafeMLRM: Demystifying Safety in Multi-modal Large Reasoning Models
von: Fang, Junfeng, et al.
Veröffentlicht: (2025)

Reasoning in Action: MCTS-Driven Knowledge Retrieval for Large Language Models
von: Liu, Shuqi, et al.
Veröffentlicht: (2025)

KnowPath: Knowledge-enhanced Reasoning via LLM-generated Inference Paths over Knowledge Graphs
von: Zhao, Qi, et al.
Veröffentlicht: (2025)

DataSage: Multi-agent Collaboration for Insight Discovery with External Knowledge Retrieval, Multi-role Debating, and Multi-path Reasoning
von: Liu, Xiaochuan, et al.
Veröffentlicht: (2025)

LLM on FHIR -- Demystifying Health Records
von: Schmiedmayer, Paul, et al.
Veröffentlicht: (2024)

GRAIL:Learning to Interact with Large Knowledge Graphs for Retrieval Augmented Reasoning
von: Chang, Ge, et al.
Veröffentlicht: (2025)

LLMs are Single-threaded Reasoners: Demystifying the Working Mechanism of Soft Thinking
von: Wu, Junhong, et al.
Veröffentlicht: (2025)

Demystifying Manifold Constraints in LLM Pre-training
von: An, Kang, et al.
Veröffentlicht: (2026)

PathMind: A Retrieve-Prioritize-Reason Framework for Knowledge Graph Reasoning with Large Language Models
von: Liu, Yu, et al.
Veröffentlicht: (2025)

An Embedding-based Approach to Inconsistency-tolerant Reasoning with Inconsistent Ontologies
von: Wang, Keyu, et al.
Veröffentlicht: (2023)

AutoSurvey2: Empowering Researchers with Next Level Automated Literature Surveys
von: Wu, Siyi, et al.
Veröffentlicht: (2025)

HiChunk: Evaluating and Enhancing Retrieval-Augmented Generation with Hierarchical Chunking
von: Lu, Wensheng, et al.
Veröffentlicht: (2025)

LFD: Layer Fused Decoding to Exploit External Knowledge in Retrieval-Augmented Generation
von: Sun, Yang, et al.
Veröffentlicht: (2025)

Multi-hop Reasoning and Retrieval in Embedding Space: Leveraging Large Language Models with Knowledge
von: Liu, Lihui
Veröffentlicht: (2026)

Toward Structured Knowledge Reasoning: Contrastive Retrieval-Augmented Generation on Experience
von: Gu, Jiawei, et al.
Veröffentlicht: (2025)

Scaling Retrieval-Augmented Reasoning with Parallel Search and Explicit Merging
von: Liu, Jiabei, et al.
Veröffentlicht: (2026)

MedRAG: Enhancing Retrieval-augmented Generation with Knowledge Graph-Elicited Reasoning for Healthcare Copilot
von: Zhao, Xuejiao, et al.
Veröffentlicht: (2025)

Taming the Untamed: Graph-Based Knowledge Retrieval and Reasoning for MLLMs to Conquer the Unknown
von: Wang, Bowen, et al.
Veröffentlicht: (2025)