Buchumschlag

Memorization in Language Models through the Lens of Intrinsic Dimension

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Arnold, Stefan
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Rethinking LLM Memorization through the Lens of Adversarial Compression
von: Schwarzschild, Avi, et al.
Veröffentlicht: (2024)

Characterizing Truthfulness in Large Language Model Generations with Local Intrinsic Dimension
von: Yin, Fan, et al.
Veröffentlicht: (2024)

Large Language Models Have Intrinsic Meta-Cognition, but Need a Good Lens
von: Ma, Ziyang, et al.
Veröffentlicht: (2025)

Continual Memorization of Factoids in Language Models
von: Chen, Howard, et al.
Veröffentlicht: (2024)

A Comparative Study of Learning Paradigms in Large Language Models via Intrinsic Dimension
von: Janapati, Saahith, et al.
Veröffentlicht: (2024)

Less is More: Local Intrinsic Dimensions of Contextual Language Models
von: Ruppik, Benjamin Matthias, et al.
Veröffentlicht: (2025)

Memorization Dynamics in Knowledge Distillation for Language Models
von: Borkar, Jaydeep, et al.
Veröffentlicht: (2026)

On Memorization of Large Language Models in Logical Reasoning
von: Xie, Chulin, et al.
Veröffentlicht: (2024)

Steering Prepositional Phrases in Language Models: A Case of with-headed Adjectival and Adverbial Complements in Gemma-2
von: Arnold, Stefan, et al.
Veröffentlicht: (2025)

Routing in Sparsely-gated Language Models responds to Context
von: Arnold, Stefan, et al.
Veröffentlicht: (2024)

Data-centric NLP Backdoor Defense from the Lens of Memorization
von: Wang, Zhenting, et al.
Veröffentlicht: (2024)

Scaling Laws for Fact Memorization of Large Language Models
von: Lu, Xingyu, et al.
Veröffentlicht: (2024)

Mitigating Memorization In Language Models
von: Sakarvadia, Mansi, et al.
Veröffentlicht: (2024)

Memorization or Interpolation ? Detecting LLM Memorization through Input Perturbation Analysis
von: Djiré, Albérick Euraste, et al.
Veröffentlicht: (2025)

Memorization in Fine-Tuned Large Language Models
von: Savine, Danil
Veröffentlicht: (2025)

Arithmetic with Language Models: from Memorization to Computation
von: Maltoni, Davide, et al.
Veröffentlicht: (2023)

Memorizing Documents with Guidance in Large Language Models
von: Park, Bumjin, et al.
Veröffentlicht: (2024)

Demystifying Verbatim Memorization in Large Language Models
von: Huang, Jing, et al.
Veröffentlicht: (2024)

Neuron-Level Differentiation of Memorization and Generalization in Large Language Models
von: Huang, Ko-Wei, et al.
Veröffentlicht: (2024)

Shared Path: Unraveling Memorization in Multilingual LLMs through Language Similarities
von: Luo, Xiaoyu, et al.
Veröffentlicht: (2025)

Measuring Intrinsic Dimension of Token Embeddings
von: Kataiwa, Takuya, et al.
Veröffentlicht: (2025)

Localizing Paragraph Memorization in Language Models
von: Stoehr, Niklas, et al.
Veröffentlicht: (2024)

Detecting Memorization in Large Language Models
von: Slonski, Eduardo
Veröffentlicht: (2024)

Understanding Verbatim Memorization in LLMs Through Circuit Discovery
von: Lasy, Ilya, et al.
Veröffentlicht: (2025)

Characterizing Memorization in Diffusion Language Models: Generalized Extraction and Sampling Effects
von: Luo, Xiaoyu, et al.
Veröffentlicht: (2026)

Memory Dial: A Training Framework for Controllable Memorization in Language Models
von: Zhang, Xiangbo, et al.
Veröffentlicht: (2026)

Multilingual Tokenization through the Lens of Indian Languages: Challenges and Insights
von: Karthika, N J, et al.
Veröffentlicht: (2025)

On the Interplay between Musical Preferences and Personality through the Lens of Language
von: Shem-Tov, Eliran, et al.
Veröffentlicht: (2025)

Inspecting the Representation Manifold of Differentially-Private Text
von: Arnold, Stefan
Veröffentlicht: (2025)

Differentially-Private Text Rewriting reshapes Linguistic Style
von: Arnold, Stefan
Veröffentlicht: (2026)

Undesirable Memorization in Large Language Models: A Survey
von: Satvaty, Ali, et al.
Veröffentlicht: (2024)

P1SCO: Social Dimensions from a Perspectivist Lens
von: Curry, Amanda Cercas, et al.
Veröffentlicht: (2026)

Exploring Memorization in Fine-tuned Language Models
von: Zeng, Shenglai, et al.
Veröffentlicht: (2023)

Memorization in Large Language Models in Medicine: Prevalence, Characteristics, and Implications
von: Li, Anran, et al.
Veröffentlicht: (2025)

Impact of Fine-Tuning Methods on Memorization in Large Language Models
von: Hou, Jie, et al.
Veröffentlicht: (2025)

Generalization or Memorization? Brittleness Testing for Chess-Trained Language Models
von: Tang, Ethan
Veröffentlicht: (2026)

A Multi-Perspective Analysis of Memorization in Large Language Models
von: Chen, Bowen, et al.
Veröffentlicht: (2024)

Retentive or Forgetful? Diving into the Knowledge Memorizing Mechanism of Language Models
von: Cao, Boxi, et al.
Veröffentlicht: (2023)

Beyond Memorization: The Challenge of Random Memory Access in Language Models
von: Zhu, Tongyao, et al.
Veröffentlicht: (2024)

LogitLens4LLMs: Extending Logit Lens Analysis to Modern Large Language Models
von: Wang, Zhenyu
Veröffentlicht: (2025)