Buchumschlag

How Tokenization Limits Phonological Knowledge Representation in Language Models and How to Improve Them

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liao, Disen, Shi, Freda
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Distribution Prompting: Understanding the Expressivity of Language Models Through the Next-Token Distributions They Can Produce
von: Wang, Haojin, et al.
Veröffentlicht: (2025)

Learning Language Structures through Grounding
von: Shi, Freda
Veröffentlicht: (2024)

LingGym: How Far Are LLMs from Thinking Like Field Linguists?
von: Yang, Changbing, et al.
Veröffentlicht: (2025)

The Tokenization Bottleneck: How Vocabulary Extension Improves Chemistry Representation Learning in Pretrained Language Models
von: Kalamkar, Prathamesh, et al.
Veröffentlicht: (2025)

Do Vision-Language Models Represent Space and How? Evaluating Spatial Frame of Reference Under Ambiguities
von: Zhang, Zheyuan, et al.
Veröffentlicht: (2024)

Phonological Representation Learning for Isolated Signs Improves Out-of-Vocabulary Generalization
von: Kezar, Lee, et al.
Veröffentlicht: (2025)

Real Images, Worse Judgments: Evaluating Vision-Language Models on Concreteness and Imagery
von: Jiang, Yifan, et al.
Veröffentlicht: (2026)

The First to Know: How Token Distributions Reveal Hidden Knowledge in Large Vision-Language Models?
von: Zhao, Qinyu, et al.
Veröffentlicht: (2024)

One Tokenizer To Rule Them All: Emergent Language Plasticity via Multilingual Tokenizers
von: Abagyan, Diana, et al.
Veröffentlicht: (2025)

Logical forms complement probability in understanding language model (and human) performance
von: Wang, Yixuan, et al.
Veröffentlicht: (2025)

Cross-Linguistic Transcription and Phonological Representation in the Huìtóngguǎnxì Huáyíyìyǔ
von: Kim, Ji-eun
Veröffentlicht: (2026)

Barriers to Universal Reasoning With Transformers (And How to Overcome Them)
von: Kraus, Oliver, et al.
Veröffentlicht: (2026)

PhonologyBench: Evaluating Phonological Skills of Large Language Models
von: Suvarna, Ashima, et al.
Veröffentlicht: (2024)

How Language Directions Align with Token Geometry in Multilingual LLMs
von: Kim, JaeSeong, et al.
Veröffentlicht: (2025)

How does a Language-Specific Tokenizer affect LLMs?
von: Seo, Jean, et al.
Veröffentlicht: (2025)

How Proficient Are Large Language Models in Formal Languages? An In-Depth Insight for Knowledge Base Question Answering
von: Liu, Jinxin, et al.
Veröffentlicht: (2024)

Chartographer: Counterfactual Chart Generation for Evaluating Vision-Language Models
von: Jiang, Yifan, et al.
Veröffentlicht: (2026)

Geometry of Semantics in Next-Token Prediction: How Optimization Implicitly Organizes Linguistic Representations
von: Zhao, Yize, et al.
Veröffentlicht: (2025)

Enhancing Domain-Specific Encoder Models with LLM-Generated Data: How to Leverage Ontologies, and How to Do Without Them
von: Brinner, Marc, et al.
Veröffentlicht: (2025)

How Important Is Tokenization in French Medical Masked Language Models?
von: Labrak, Yanis, et al.
Veröffentlicht: (2024)

Blessing of Multilinguality: A Systematic Analysis of Multilingual In-Context Learning
von: Tu, Yilei, et al.
Veröffentlicht: (2025)

Phonology Recognition in American Sign Language
von: Tavella, Federico, et al.
Veröffentlicht: (2021)

Reasoning Inconsistencies and How to Mitigate Them in Deep Learning
von: Arakelyan, Erik
Veröffentlicht: (2025)

LinguaMap: Which Layers of LLMs Speak Your Language and How to Tune Them?
von: Tamo, J. Ben, et al.
Veröffentlicht: (2026)

How Large Language Models Balance Internal Knowledge with User and Document Assertions
von: Li, Shuowei, et al.
Veröffentlicht: (2026)

TrustJudge: Inconsistencies of LLM-as-a-Judge and How to Alleviate Them
von: Wang, Yidong, et al.
Veröffentlicht: (2025)

From Seeing to Thinking: Decoupling Perception and Reasoning Improves Post-Training of Vision-Language Models
von: Wu, Juncheng, et al.
Veröffentlicht: (2026)

Liger: Linearizing Large Language Models to Gated Recurrent Structures
von: Lan, Disen, et al.
Veröffentlicht: (2025)

Knowledge of Pretrained Language Models on Surface Information of Tokens
von: Hiraoka, Tatsuya, et al.
Veröffentlicht: (2024)

Number Cookbook: Number Understanding of Language Models and How to Improve It
von: Yang, Haotong, et al.
Veröffentlicht: (2024)

LTD-Bench: Evaluating Large Language Models by Letting Them Draw
von: Lin, Liuhao, et al.
Veröffentlicht: (2025)

How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to Challenge AI Safety by Humanizing LLMs
von: Zeng, Yi, et al.
Veröffentlicht: (2024)

Tracking the Limits of Knowledge Propagation: How LLMs Fail at Multi-Step Reasoning with Conflicting Knowledge
von: Feng, Yiyang, et al.
Veröffentlicht: (2026)

Perception of Phonological Assimilation by Neural Speech Recognition Models
von: Pouw, Charlotte, et al.
Veröffentlicht: (2024)

Can Visual Dialogue Models Do Scorekeeping? Exploring How Dialogue Representations Incrementally Encode Shared Knowledge
von: Madureira, Brielen, et al.
Veröffentlicht: (2022)

Large Language Models for Predictive Analysis: How Far Are They?
von: Chen, Qin, et al.
Veröffentlicht: (2025)

How Language Models Conflate Logical Validity with Plausibility: A Representational Analysis of Content Effects
von: Bertolazzi, Leonardo, et al.
Veröffentlicht: (2025)

How Susceptible are Large Language Models to Ideological Manipulation?
von: Chen, Kai, et al.
Veröffentlicht: (2024)

Improved Representation Steering for Language Models
von: Wu, Zhengxuan, et al.
Veröffentlicht: (2025)

Head-to-Tail: How Knowledgeable are Large Language Models (LLMs)? A.K.A. Will LLMs Replace Knowledge Graphs?
von: Sun, Kai, et al.
Veröffentlicht: (2023)