Farther the Shift, Sparser the Representation: Analyzing OOD Mechanisms in LLMs
Fuente:
arXiv
Salvato in:
| Autori principali: | Jin, Mingyu, Yin, Yutong, Niu, Jingcheng, Zeng, Qingcheng, Xu, Wujiang, Du, Mengnan, Cheng, Wei, Wang, Zhaoran, Chen, Tianlong, Metaxas, Dimitris N. |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
All Circuits Lead to Rome: Rethinking Functional Anisotropy in Circuit and Sheaf Discovery for LLMs
di: Chen, Xi, et al.
Pubblicazione: (2026)
di: Chen, Xi, et al.
Pubblicazione: (2026)
SAGE: An Agentic Explainer Framework for Interpreting SAE Features in Language Models
di: Han, Jiaojiao, et al.
Pubblicazione: (2025)
di: Han, Jiaojiao, et al.
Pubblicazione: (2025)
Pooling and Semantic Shift: The Fundamental Challenges in Long Text Embedding and Retrieval
di: Gao, Hang, et al.
Pubblicazione: (2026)
di: Gao, Hang, et al.
Pubblicazione: (2026)
Token-Controlled Re-ranking for Sequential Recommendation via LLMs
di: Dai, Wenxi, et al.
Pubblicazione: (2025)
di: Dai, Wenxi, et al.
Pubblicazione: (2025)
Seeing Farther and Smarter: Value-Guided Multi-Path Reflection for VLM Policy Optimization
di: Yang, Yanting, et al.
Pubblicazione: (2026)
di: Yang, Yanting, et al.
Pubblicazione: (2026)
MoralBench: Moral Evaluation of LLMs
di: Ji, Jianchao, et al.
Pubblicazione: (2024)
di: Ji, Jianchao, et al.
Pubblicazione: (2024)
Exploring Multilingual Probing in Large Language Models: A Cross-Language Analysis
di: Li, Daoyang, et al.
Pubblicazione: (2024)
di: Li, Daoyang, et al.
Pubblicazione: (2024)
Are Transformers Able to Reason by Connecting Separated Knowledge in Training Data?
di: Yin, Yutong, et al.
Pubblicazione: (2025)
di: Yin, Yutong, et al.
Pubblicazione: (2025)
EPO: Entropy-regularized Policy Optimization for LLM Agents Reinforcement Learning
di: Xu, Wujiang, et al.
Pubblicazione: (2025)
di: Xu, Wujiang, et al.
Pubblicazione: (2025)
Massive Values in Self-Attention Modules are the Key to Contextual Knowledge Understanding
di: Jin, Mingyu, et al.
Pubblicazione: (2025)
di: Jin, Mingyu, et al.
Pubblicazione: (2025)
Western Ragweed Farther East
di: Groh, Herbert.
Pubblicazione: (1929)
di: Groh, Herbert.
Pubblicazione: (1929)
Individual Turing Test: A Case Study of LLM-based Simulation Using Longitudinal Personal Data
di: Guo, Minghao, et al.
Pubblicazione: (2026)
di: Guo, Minghao, et al.
Pubblicazione: (2026)
Sparser Training for On-Device Recommendation Systems
di: Qu, Yunke, et al.
Pubblicazione: (2024)
di: Qu, Yunke, et al.
Pubblicazione: (2024)
DeepSieve: Information Sieving via LLM-as-a-Knowledge-Router
di: Guo, Minghao, et al.
Pubblicazione: (2025)
di: Guo, Minghao, et al.
Pubblicazione: (2025)
Analyzing Finetuning Representation Shift for Multimodal LLMs Steering
di: Khayatan, Pegah, et al.
Pubblicazione: (2025)
di: Khayatan, Pegah, et al.
Pubblicazione: (2025)
DLLM Agent: See Farther, Run Faster
di: Zhen, Huiling, et al.
Pubblicazione: (2026)
di: Zhen, Huiling, et al.
Pubblicazione: (2026)
SAE-SSV: Supervised Steering in Sparse Representation Spaces for Reliable Control of Language Models
di: He, Zirui, et al.
Pubblicazione: (2025)
di: He, Zirui, et al.
Pubblicazione: (2025)
AEL: Agent Evolving Learning for Open-Ended Environments
di: Xu, Wujiang, et al.
Pubblicazione: (2026)
di: Xu, Wujiang, et al.
Pubblicazione: (2026)
MPDiT: Multi-Patch Global-to-Local Transformer Architecture For Efficient Flow Matching and Diffusion Model
di: Dao, Quan, et al.
Pubblicazione: (2026)
di: Dao, Quan, et al.
Pubblicazione: (2026)
Even Sparser Graph Transformers
di: Shirzad, Hamed, et al.
Pubblicazione: (2024)
di: Shirzad, Hamed, et al.
Pubblicazione: (2024)
Humanizing Robot Gaze Shifts: A Framework for Natural Gaze Shifts in Humanoid Robots
di: Wei, Jingchao, et al.
Pubblicazione: (2026)
di: Wei, Jingchao, et al.
Pubblicazione: (2026)
Time Series Forecasting with LLMs: Understanding and Enhancing Model Capabilities
di: Tang, Hua, et al.
Pubblicazione: (2024)
di: Tang, Hua, et al.
Pubblicazione: (2024)
Beyond Explicit Edges: Robust Reasoning over Noisy and Sparse Knowledge Graphs
di: Gao, Hang, et al.
Pubblicazione: (2026)
di: Gao, Hang, et al.
Pubblicazione: (2026)
Trust or Abstain? A Self-Aware RAG Approach
di: Zhu, Xi, et al.
Pubblicazione: (2026)
di: Zhu, Xi, et al.
Pubblicazione: (2026)
Sparser Abelian High Dimensional Expanders
di: Dikstein, Yotam, et al.
Pubblicazione: (2024)
di: Dikstein, Yotam, et al.
Pubblicazione: (2024)
Sparser2Sparse: Single-shot Sparser-to-Sparse Learning for Spatial Transcriptomics Imputation with Natural Image Co-learning
di: Fang, Yaoyu, et al.
Pubblicazione: (2025)
di: Fang, Yaoyu, et al.
Pubblicazione: (2025)
Local Linear Attention: An Optimal Interpolation of Linear and Softmax Attention For Test-Time Regression
di: Zuo, Yifei, et al.
Pubblicazione: (2025)
di: Zuo, Yifei, et al.
Pubblicazione: (2025)
APEER: Automatic Prompt Engineering Enhances Large Language Model Reranking
di: Jin, Can, et al.
Pubblicazione: (2024)
di: Jin, Can, et al.
Pubblicazione: (2024)
Faster Consensus via a Sparser Controller
di: Ballotta, Luca, et al.
Pubblicazione: (2023)
di: Ballotta, Luca, et al.
Pubblicazione: (2023)
Sparser, Faster, Lighter Transformer Language Models
di: Cetin, Edoardo, et al.
Pubblicazione: (2026)
di: Cetin, Edoardo, et al.
Pubblicazione: (2026)
Test-Time Spectrum-Aware Latent Steering for Zero-Shot Generalization in Vision-Language Models
di: Dafnis, Konstantinos M., et al.
Pubblicazione: (2025)
di: Dafnis, Konstantinos M., et al.
Pubblicazione: (2025)
Score-Guided Diffusion for 3D Human Recovery
di: Stathopoulos, Anastasis, et al.
Pubblicazione: (2024)
di: Stathopoulos, Anastasis, et al.
Pubblicazione: (2024)
MHB: Multimodal Handshape-aware Boundary Detection for Continuous Sign Language Recognition
di: Zhao, Mingyu, et al.
Pubblicazione: (2025)
di: Zhao, Mingyu, et al.
Pubblicazione: (2025)
The Confidence Dichotomy: Analyzing and Mitigating Miscalibration in Tool-Use Agents
di: Xuan, Weihao, et al.
Pubblicazione: (2026)
di: Xuan, Weihao, et al.
Pubblicazione: (2026)
From Commands to Prompts: LLM-based Semantic File System for AIOS
di: Shi, Zeru, et al.
Pubblicazione: (2024)
di: Shi, Zeru, et al.
Pubblicazione: (2024)
Exploring Concept Depth: How Large Language Models Acquire Knowledge and Concept at Different Layers?
di: Jin, Mingyu, et al.
Pubblicazione: (2024)
di: Jin, Mingyu, et al.
Pubblicazione: (2024)
Sparser Block-Sparse Attention via Token Permutation
di: Wang, Xinghao, et al.
Pubblicazione: (2025)
di: Wang, Xinghao, et al.
Pubblicazione: (2025)
AdaptiveK: Complexity-Driven Sparse Autoencoders for Interpretable Language Model Representations
di: Yao, Yifei, et al.
Pubblicazione: (2025)
di: Yao, Yifei, et al.
Pubblicazione: (2025)
Knowledge Graph Large Language Model (KG-LLM) for Link Prediction
di: Shu, Dong, et al.
Pubblicazione: (2024)
di: Shu, Dong, et al.
Pubblicazione: (2024)
Data-centric NLP Backdoor Defense from the Lens of Memorization
di: Wang, Zhenting, et al.
Pubblicazione: (2024)
di: Wang, Zhenting, et al.
Pubblicazione: (2024)
Documenti analoghi
-
All Circuits Lead to Rome: Rethinking Functional Anisotropy in Circuit and Sheaf Discovery for LLMs
di: Chen, Xi, et al.
Pubblicazione: (2026) -
SAGE: An Agentic Explainer Framework for Interpreting SAE Features in Language Models
di: Han, Jiaojiao, et al.
Pubblicazione: (2025) -
Pooling and Semantic Shift: The Fundamental Challenges in Long Text Embedding and Retrieval
di: Gao, Hang, et al.
Pubblicazione: (2026) -
Token-Controlled Re-ranking for Sequential Recommendation via LLMs
di: Dai, Wenxi, et al.
Pubblicazione: (2025) -
Seeing Farther and Smarter: Value-Guided Multi-Path Reflection for VLM Policy Optimization
di: Yang, Yanting, et al.
Pubblicazione: (2026)