Buchumschlag

Subword models struggle with word learning, but surprisal hides it

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Bunzeck, Bastian, Zarrieß, Sina
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Child-directed speech facilitates production, not comprehension, in BabyLMs
von: Bunzeck, Bastian, et al.
Veröffentlicht: (2026)

Do Construction Distributions Shape Formal Language Learning In German BabyLMs?
von: Bunzeck, Bastian, et al.
Veröffentlicht: (2025)

Small Language Models Also Work With Small Vocabularies: Probing the Linguistic Abilities of Grapheme- and Phoneme-Based Baby Llamas
von: Bunzeck, Bastian, et al.
Veröffentlicht: (2024)

Dialogue Is Not Enough to Make a Communicative BabyLM (But Neither Is Developmentally Inspired Reinforcement Learning)
von: Padovani, Francesca, et al.
Veröffentlicht: (2025)

SceneGram: Conceptualizing and Describing Tangrams in Scene Context
von: Junker, Simeon, et al.
Veröffentlicht: (2025)

The Frequency Confound in Language-Model Surprisal and Metaphor Novelty
von: Momen, Omar, et al.
Veröffentlicht: (2026)

Resilience through Scene Context in Visual Referring Expression Generation
von: Junker, Simeon, et al.
Veröffentlicht: (2024)

How Hypocritical Is Your LLM judge? Listener-Speaker Asymmetries in the Pragmatic Competence of Large Language Models
von: Sieker, Judith, et al.
Veröffentlicht: (2026)

Rationalizing Transformer Predictions via End-To-End Differentiable Self-Training
von: Brinner, Marc, et al.
Veröffentlicht: (2025)

Efficient Scientific Full Text Classification: The Case of EICAT Impact Assessments
von: Brinner, Marc Felix, et al.
Veröffentlicht: (2025)

Model Interpretability and Rationale Extraction by Input Mask Optimization
von: Brinner, Marc, et al.
Veröffentlicht: (2025)

SemCSE: Semantic Contrastive Sentence Embeddings Using LLM-Generated Summaries For Scientific Abstracts
von: Brinner, Marc, et al.
Veröffentlicht: (2025)

LLMs Struggle to Reject False Presuppositions when Misinformation Stakes are High
von: Sieker, Judith, et al.
Veröffentlicht: (2025)

SemCSE-Multi: Multifaceted and Decodable Embeddings for Aspect-Specific and Interpretable Scientific Domain Mapping
von: Brinner, Marc, et al.
Veröffentlicht: (2025)

Can LLMs Ground when they (Don't) Know: A Study on Direct and Loaded Political Questions
von: Lachenmaier, Clara, et al.
Veröffentlicht: (2025)

Talking to a Know-It-All GPT or a Second-Guesser Claude? How Repair reveals unreliable Multi-Turn Behavior in LLMs
von: Lachenmaier, Clara, et al.
Veröffentlicht: (2026)

Implicit Causality-biases in humans and LLMs as a tool for benchmarking LLM discourse capabilities
von: Kankowski, Florian, et al.
Veröffentlicht: (2025)

Are BabyLMs Deaf to Gricean Maxims? A Pragmatic Evaluation of Sample-efficient Language Models
von: Askari, Raha, et al.
Veröffentlicht: (2025)

Reference Games as a Testbed for the Alignment of Model Uncertainty and Clarification Requests
von: Ali, Manar, et al.
Veröffentlicht: (2026)

Evaluating Diversity in Automatic Poetry Generation
von: Chen, Yanran, et al.
Veröffentlicht: (2024)

Enhancing Domain-Specific Encoder Models with LLM-Generated Data: How to Leverage Ontologies, and How to Do Without Them
von: Brinner, Marc, et al.
Veröffentlicht: (2025)

CAIT: A Syntactic Parsing Toolkit for Child-Adult InTeractions
von: Padovani, Francesca, et al.
Veröffentlicht: (2026)

Evaluating Subword Tokenization: Alien Subword Composition and OOV Generalization Challenge
von: Batsuren, Khuyagbaatar, et al.
Veröffentlicht: (2024)

Distributional Properties of Subword Regularization
von: Cognetta, Marco, et al.
Veröffentlicht: (2024)

Lexically Grounded Subword Segmentation
von: Libovický, Jindřich, et al.
Veröffentlicht: (2024)

The InviTE Corpus: Annotating Invectives in Tudor English Texts for Computational Modeling
von: Spliethoff, Sophie, et al.
Veröffentlicht: (2025)

Are Multimodal Large Language Models Pragmatically Competent Listeners in Simple Reference Resolution Tasks?
von: Junker, Simeon, et al.
Veröffentlicht: (2025)

Surprisal and Metaphor Novelty Judgments: Moderate Correlations and Divergent Scaling Effects Revealed by Corpus-Based and Synthetic Datasets
von: Momen, Omar, et al.
Veröffentlicht: (2026)

ByteSpan: Information-Driven Subword Tokenisation
von: Goriely, Zébulon, et al.
Veröffentlicht: (2025)

Subword Tokenization Strategies for Kurdish Word Embeddings
von: Salehi, Ali, et al.
Veröffentlicht: (2025)

Language models struggle with compartmentalization
von: Howe, Thomas Vincent, et al.
Veröffentlicht: (2026)

Deep learning models for representing out-of-vocabulary words
von: Lochter, Johannes V., et al.
Veröffentlicht: (2020)

The Learning Dynamics of Subword Segmentation for Morphologically Diverse Languages
von: Meyer, Francois, et al.
Veröffentlicht: (2025)

Morphological Typology in BPE Subword Productivity and Language Modeling
von: Parra, Iñigo
Veröffentlicht: (2024)

On the robustness of modeling grounded word learning through a child's egocentric input
von: Vong, Wai Keen, et al.
Veröffentlicht: (2025)

Learning Mutually Informed Representations for Characters and Subwords
von: Wang, Yilin, et al.
Veröffentlicht: (2023)

StochasTok: Improving Fine-Grained Subword Understanding in LLMs
von: Sims, Anya, et al.
Veröffentlicht: (2025)

Stolen Subwords: Importance of Vocabularies for Machine Translation Model Stealing
von: Zouhar, Vilém
Veröffentlicht: (2024)

Tokenization Falling Short: On Subword Robustness in Large Language Models
von: Chai, Yekun, et al.
Veröffentlicht: (2024)

The Illusion of Competence: Evaluating the Effect of Explanations on Users' Mental Models of Visual Question Answering Systems
von: Sieker, Judith, et al.
Veröffentlicht: (2024)