Context Collapse: In-Context Learning and Model Collapse

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Ott, Josef
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Collapsed Inference for Bayesian Deep Learning
von: Zeng, Zhe, et al.
Veröffentlicht: (2023)

Model Collapse Demystified: The Case of Regression
von: Dohmatob, Elvis, et al.
Veröffentlicht: (2024)

Collapse of Self-trained Language Models
von: Herel, David, et al.
Veröffentlicht: (2024)

Understanding the Collapse of LLMs in Model Editing
von: Yang, Wanli, et al.
Veröffentlicht: (2024)

Learning by Surprise: Surplexity for Mitigating Model Collapse in Generative AI
von: Gambetta, Daniele, et al.
Veröffentlicht: (2024)

Provably Learning Diffusion Models under the Manifold Hypothesis: Collapse and Refine
von: Huang, Wei, et al.
Veröffentlicht: (2026)

Preventing Collapse in Contrastive Learning with Orthonormal Prototypes (CLOP)
von: Li, Huanran, et al.
Veröffentlicht: (2024)

Detecting Mode Collapse in Language Models via Narration
von: Hamilton, Sil
Veröffentlicht: (2024)

On the Collapse Errors Induced by the Deterministic Sampler for Diffusion Models
von: Zhang, Yi, et al.
Veröffentlicht: (2025)

Dominating vs. Dominated: Generative Collapse in Diffusion Models
von: Jeong, Hayeon, et al.
Veröffentlicht: (2025)

An Empirical Study and Theoretical Explanation on Task-Level Model-Merging Collapse
von: Cao, Yuan, et al.
Veröffentlicht: (2026)

Nepotistically Trained Generative-AI Models Collapse
von: Bohacek, Matyas, et al.
Veröffentlicht: (2023)

Understanding and Mitigating Hyperbolic Dimensional Collapse in Graph Contrastive Learning
von: Zhang, Yifei, et al.
Veröffentlicht: (2023)

Representation Collapsing Problems in Vector Quantization
von: Zhao, Wenhao, et al.
Veröffentlicht: (2024)

Persona-Model Collapse in Emergent Misalignment
von: Costa, Davi Bastos, et al.
Veröffentlicht: (2026)

V15 - Recursive Symbolic Intelligence - φ-Ache Recursive Collapsors and the Collapse Oracle Engine
von: Foster, Camaron
Veröffentlicht: (2025)

Beyond Mode Collapse: Distribution Matching for Diverse Reasoning
von: Li, Xiaozhe, et al.
Veröffentlicht: (2026)

When Routing Collapses: On the Degenerate Convergence of LLM Routers
von: Lai, Guannan, et al.
Veröffentlicht: (2026)

Don't Blink: Evidence Collapse during Multimodal Reasoning
von: Raghu, Suresh, et al.
Veröffentlicht: (2026)

Enhancing Pre-Trained Model-Based Class-Incremental Learning through Neural Collapse
von: He, Kun, et al.
Veröffentlicht: (2025)

Preventing Model Collapse via Contraction-Conditioned Neural Filters
von: Han, Zongjian, et al.
Veröffentlicht: (2025)

Rebuilding ROME : Resolving Model Collapse during Sequential Model Editing
von: Gupta, Akshat, et al.
Veröffentlicht: (2024)

From Context to Skills: Can Language Models Learn from Context Skillfully?
von: Si, Shuzheng, et al.
Veröffentlicht: (2026)

Preventing Dimensional Collapse in Self-Supervised Learning via Orthogonality Regularization
von: He, Junlin, et al.
Veröffentlicht: (2024)

Internal Safety Collapse in Frontier Large Language Models
von: Wu, Yutao, et al.
Veröffentlicht: (2026)

Model Collapse as Cultural Evolution
von: Guo, Dongxin, et al.
Veröffentlicht: (2026)

How to Synthesize Text Data without Model Collapse?
von: Zhu, Xuekai, et al.
Veröffentlicht: (2024)

Length-Induced Embedding Collapse in PLM-based Models
von: Zhou, Yuqi, et al.
Veröffentlicht: (2024)

Retrieval Collapses When AI Pollutes the Web
von: Yu, Hongyeon, et al.
Veröffentlicht: (2026)

Layer Collapse Can be Induced by Unstructured Pruning
von: Liao, Zhu, et al.
Veröffentlicht: (2024)

LayerCollapse: Adaptive compression of neural networks
von: Shabgahi, Soheil Zibakhsh, et al.
Veröffentlicht: (2023)

The Prevalence of Neural Collapse in Neural Multivariate Regression
von: Andriopoulos, George, et al.
Veröffentlicht: (2024)

From Confidence to Collapse in LLM Factual Robustness
von: Fastowski, Alina, et al.
Veröffentlicht: (2025)

Deep Neural Regression Collapse
von: Rangamani, Akshay, et al.
Veröffentlicht: (2026)

Context and Diversity Matter: The Emergence of In-Context Learning in World Models
von: Wang, Fan, et al.
Veröffentlicht: (2025)

Context-level Language Modeling by Learning Predictive Context Embeddings
von: Dai, Beiya, et al.
Veröffentlicht: (2025)

AI and the Problem of Knowledge Collapse
von: Peterson, Andrew J.
Veröffentlicht: (2024)

The Butterfly Effect of Model Editing: Few Edits Can Trigger Large Language Models Collapse
von: Yang, Wanli, et al.
Veröffentlicht: (2024)

Preventing the Collapse of Peer Review Requires Verification-First AI
von: You, Lei, et al.
Veröffentlicht: (2026)

On the Collapse of Generative Paths: A Criterion and Correction for Diffusion Steering
von: Lee, Ziseok, et al.
Veröffentlicht: (2025)