Decoding In-Context Learning: Neuroscience-inspired Analysis of Representations in Large Language Models
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Yousefi, Safoora, Betthauser, Leo, Hasanbeig, Hosein, Millière, Raphaël, Momennejad, Ida |
|---|---|
| Format: | Preprint |
| Publié: |
2023
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Language Models as Models of Language
par: Millière, Raphaël
Publié: (2024)
par: Millière, Raphaël
Publié: (2024)
Philosophy of Cognitive Science in the Age of Deep Learning
par: Millière, Raphaël
Publié: (2024)
par: Millière, Raphaël
Publié: (2024)
A Philosophical Introduction to Language Models - Part II: The Way Forward
par: Millière, Raphaël, et autres
Publié: (2024)
par: Millière, Raphaël, et autres
Publié: (2024)
Normative Conflicts and Shallow AI Alignment
par: Millière, Raphaël
Publié: (2025)
par: Millière, Raphaël
Publié: (2025)
A Philosophical Introduction to Language Models -- Part I: Continuity With Classic Debates
par: Millière, Raphaël, et autres
Publié: (2024)
par: Millière, Raphaël, et autres
Publié: (2024)
Anthropocentric bias in language model evaluation
par: Millière, Raphaël, et autres
Publié: (2024)
par: Millière, Raphaël, et autres
Publié: (2024)
The Vector Grounding Problem
par: Mollo, Dimitri Coelho, et autres
Publié: (2023)
par: Mollo, Dimitri Coelho, et autres
Publié: (2023)
Improving Instruction-Following in Language Models through Activation Steering
par: Stolfo, Alessandro, et autres
Publié: (2024)
par: Stolfo, Alessandro, et autres
Publié: (2024)
How Do Transformers Learn Variable Binding in Symbolic Programs?
par: Wu, Yiwei, et autres
Publié: (2025)
par: Wu, Yiwei, et autres
Publié: (2025)
LLMs as Models for Analogical Reasoning
par: Musker, Sam, et autres
Publié: (2024)
par: Musker, Sam, et autres
Publié: (2024)
ConDABench: Interactive Evaluation of Language Models for Data Analysis
par: Dutta, Avik, et autres
Publié: (2025)
par: Dutta, Avik, et autres
Publié: (2025)
Memory, Space, and Planning: Multiscale Predictive Representations
par: Momennejad, Ida
Publié: (2024)
par: Momennejad, Ida
Publié: (2024)
Improving Planning with Large Language Models: A Modular Agentic Architecture
par: Webb, Taylor, et autres
Publié: (2023)
par: Webb, Taylor, et autres
Publié: (2023)
In-Context Learning in Speech Language Models: Analyzing the Role of Acoustic Features, Linguistic Structure, and Induction Heads
par: Pouw, Charlotte, et autres
Publié: (2026)
par: Pouw, Charlotte, et autres
Publié: (2026)
DecoderLens: Layerwise Interpretation of Encoder-Decoder Transformers
par: Langedijk, Anna, et autres
Publié: (2023)
par: Langedijk, Anna, et autres
Publié: (2023)
Eureka: Evaluating and Understanding Large Foundation Models
par: Balachandran, Vidhisha, et autres
Publié: (2024)
par: Balachandran, Vidhisha, et autres
Publié: (2024)
Structured Context Recomposition for Large Language Models Using Probabilistic Layer Realignment
par: Teel, Jonathan, et autres
Publié: (2025)
par: Teel, Jonathan, et autres
Publié: (2025)
Steering Multimodal Large Language Models Decoding for Context-Aware Safety
par: Liu, Zheyuan, et autres
Publié: (2025)
par: Liu, Zheyuan, et autres
Publié: (2025)
SafeInfer: Context Adaptive Decoding Time Safety Alignment for Large Language Models
par: Banerjee, Somnath, et autres
Publié: (2024)
par: Banerjee, Somnath, et autres
Publié: (2024)
Structured Memory Mechanisms for Stable Context Representation in Large Language Models
par: Xing, Yue, et autres
Publié: (2025)
par: Xing, Yue, et autres
Publié: (2025)
Dynamic Attention-Guided Context Decoding for Mitigating Context Faithfulness Hallucinations in Large Language Models
par: Huang, Yanwen, et autres
Publié: (2025)
par: Huang, Yanwen, et autres
Publié: (2025)
DeCoVec: Building Decoding Space based Task Vector for Large Language Models via In-Context Learning
par: Li, Feiyang, et autres
Publié: (2026)
par: Li, Feiyang, et autres
Publié: (2026)
Uncovering Emergent Physics Representations Learned In-Context by Large Language Models
par: Song, Yeongwoo, et autres
Publié: (2025)
par: Song, Yeongwoo, et autres
Publié: (2025)
How Language Models Prioritize Contextual Grammatical Cues?
par: Amirzadeh, Hamidreza, et autres
Publié: (2024)
par: Amirzadeh, Hamidreza, et autres
Publié: (2024)
Cultural Fidelity in Large-Language Models: An Evaluation of Online Language Resources as a Driver of Model Performance in Value Representation
par: Kazemi, Sharif, et autres
Publié: (2024)
par: Kazemi, Sharif, et autres
Publié: (2024)
Encoder-Decoder or Decoder-Only? Revisiting Encoder-Decoder Large Language Model
par: Zhang, Biao, et autres
Publié: (2025)
par: Zhang, Biao, et autres
Publié: (2025)
Language Models Struggle to Use Representations Learned In-Context
par: Lepori, Michael A., et autres
Publié: (2026)
par: Lepori, Michael A., et autres
Publié: (2026)
PLDR-LLM: Large Language Model from Power Law Decoder Representations
par: Gokden, Burc
Publié: (2024)
par: Gokden, Burc
Publié: (2024)
BriLLM: Brain-inspired Large Language Model
par: Zhao, Hai, et autres
Publié: (2025)
par: Zhao, Hai, et autres
Publié: (2025)
Progressive Safeguards for Safe and Model-Agnostic Reinforcement Learning
par: Omi, Nabil, et autres
Publié: (2024)
par: Omi, Nabil, et autres
Publié: (2024)
CoCoA: Confidence and Context-Aware Adaptive Decoding for Resolving Knowledge Conflicts in Large Language Models
par: Khandelwal, Anant, et autres
Publié: (2025)
par: Khandelwal, Anant, et autres
Publié: (2025)
Are Emergent Abilities in Large Language Models just In-Context Learning?
par: Lu, Sheng, et autres
Publié: (2023)
par: Lu, Sheng, et autres
Publié: (2023)
ICLEval: Evaluating In-Context Learning Ability of Large Language Models
par: Chen, Wentong, et autres
Publié: (2024)
par: Chen, Wentong, et autres
Publié: (2024)
Decoding News Narratives: A Critical Analysis of Large Language Models in Framing Detection
par: Pastorino, Valeria, et autres
Publié: (2024)
par: Pastorino, Valeria, et autres
Publié: (2024)
Gender Disambiguation in Machine Translation: Diagnostic Evaluation in Decoder-Only Architectures
par: Manna, Chiara, et autres
Publié: (2026)
par: Manna, Chiara, et autres
Publié: (2026)
RAVEN: In-Context Learning with Retrieval-Augmented Encoder-Decoder Language Models
par: Huang, Jie, et autres
Publié: (2023)
par: Huang, Jie, et autres
Publié: (2023)
Comparative Analysis of Listwise Reranking with Large Language Models in Limited-Resource Language Contexts
par: Shen, Yanxin, et autres
Publié: (2024)
par: Shen, Yanxin, et autres
Publié: (2024)
Emergent Structured Representations Support Flexible In-Context Inference in Large Language Models
par: Xu, Ningyu, et autres
Publié: (2026)
par: Xu, Ningyu, et autres
Publié: (2026)
In-Context Watermarks for Large Language Models
par: Liu, Yepeng, et autres
Publié: (2025)
par: Liu, Yepeng, et autres
Publié: (2025)
Visual In-Context Learning for Large Vision-Language Models
par: Zhou, Yucheng, et autres
Publié: (2024)
par: Zhou, Yucheng, et autres
Publié: (2024)
Documents similaires
-
Language Models as Models of Language
par: Millière, Raphaël
Publié: (2024) -
Philosophy of Cognitive Science in the Age of Deep Learning
par: Millière, Raphaël
Publié: (2024) -
A Philosophical Introduction to Language Models - Part II: The Way Forward
par: Millière, Raphaël, et autres
Publié: (2024) -
Normative Conflicts and Shallow AI Alignment
par: Millière, Raphaël
Publié: (2025) -
A Philosophical Introduction to Language Models -- Part I: Continuity With Classic Debates
par: Millière, Raphaël, et autres
Publié: (2024)