Buchumschlag

How Important Is Tokenization in French Medical Masked Language Models?

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Labrak, Yanis, Bazoge, Adrien, Daille, Beatrice, Rouvier, Mickael, Dufour, Richard
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

BioMistral: A Collection of Open-Source Pretrained Large Language Models for Medical Domains
von: Labrak, Yanis, et al.
Veröffentlicht: (2024)

A Zero-shot and Few-shot Study of Instruction-Finetuned Large Language Models Applied to Clinical and Biomedical Tasks
von: Labrak, Yanis, et al.
Veröffentlicht: (2023)

DrBenchmark: A Large Language Understanding Evaluation Benchmark for French Biomedical Domain
von: Labrak, Yanis, et al.
Veröffentlicht: (2024)

An Empirical Analysis of Discrete Unit Representations in Speech Language Modeling Pre-training
von: Labrak, Yanis, et al.
Veröffentlicht: (2025)

Zero-Shot End-To-End Spoken Question Answering In Medical Domain
von: Labrak, Yanis, et al.
Veröffentlicht: (2024)

Adaptation of Biomedical and Clinical Pretrained Models to French Long Documents: A Comparative Study
von: Bazoge, Adrien, et al.
Veröffentlicht: (2024)

MediQAl: A French Medical Question Answering Dataset for Knowledge and Reasoning Evaluation
von: Bazoge, Adrien
Veröffentlicht: (2025)

Improving Social Determinants of Health Documentation in French EHRs Using Large Language Models
von: Bazoge, Adrien, et al.
Veröffentlicht: (2025)

Synthetic Lyrics Detection Across Languages and Genres
von: Labrak, Yanis, et al.
Veröffentlicht: (2024)

Late Fusion and Multi-Level Fission Amplify Cross-Modal Transfer in Text-Speech LMs
von: Cuervo, Santiago, et al.
Veröffentlicht: (2025)

A Comprehensive Analysis of Tokenization and Self-Supervised Learning in End-to-End Automatic Speech Recognition applied on French Language
von: Bañeras-Roux, Thibault, et al.
Veröffentlicht: (2026)

ACL-rlg: A Dataset for Reading List Generation
von: Aubert-Béduchaud, Julien, et al.
Veröffentlicht: (2024)

Enabling Autoregressive Models to Fill In Masked Tokens
von: Israel, Daniel, et al.
Veröffentlicht: (2025)

RSQ: Learning from Important Tokens Leads to Better Quantized LLMs
von: Sung, Yi-Lin, et al.
Veröffentlicht: (2025)

SDialog: A Python Toolkit for End-to-End Agent Building, User Simulation, Dialog Generation, and Evaluation
von: Burdisso, Sergio, et al.
Veröffentlicht: (2025)

Multimodal Medical Code Tokenizer
von: Su, Xiaorui, et al.
Veröffentlicht: (2025)

Soft-Masked Diffusion Language Models
von: Hersche, Michael, et al.
Veröffentlicht: (2025)

A Benchmark of French ASR Systems Based on Error Severity
von: Tholly, Antoine, et al.
Veröffentlicht: (2025)

Large Language Models for Medical Forecasting -- Foresight 2
von: Kraljevic, Zeljko, et al.
Veröffentlicht: (2024)

Fisher Mask Nodes for Language Model Merging
von: K, Thennal D, et al.
Veröffentlicht: (2024)

Simple and Effective Masked Diffusion Language Models
von: Sahoo, Subham Sekhar, et al.
Veröffentlicht: (2024)

On the Reasoning Abilities of Masked Diffusion Language Models
von: Svete, Anej, et al.
Veröffentlicht: (2025)

Iterative Mask Filling: An Effective Text Augmentation Method Using Masked Language Modeling
von: Kesgin, Himmet Toprak, et al.
Veröffentlicht: (2024)

Length-MAX Tokenizer for Language Models
von: Dong, Dong, et al.
Veröffentlicht: (2025)

Tokenization Matters: Navigating Data-Scarce Tokenization for Gender Inclusive Language Technologies
von: Ovalle, Anaelia, et al.
Veröffentlicht: (2023)

SparsePO: Controlling Preference Alignment of LLMs via Sparse Token Masks
von: Christopoulou, Fenia, et al.
Veröffentlicht: (2024)

Understanding and Accelerating the Training of Masked Diffusion Language Models
von: Hong, Chunsan, et al.
Veröffentlicht: (2026)

Boosting Large Language Models with Mask Fine-Tuning
von: Zhang, Mingyuan, et al.
Veröffentlicht: (2025)

Understanding and Mitigating Tokenization Bias in Language Models
von: Phan, Buu, et al.
Veröffentlicht: (2024)

Adapting Language Models via Token Translation
von: Feng, Zhili, et al.
Veröffentlicht: (2024)

Counterfactual Token Generation in Large Language Models
von: Chatzi, Ivi, et al.
Veröffentlicht: (2024)

Guiding Language Model Reasoning with Planning Tokens
von: Wang, Xinyi, et al.
Veröffentlicht: (2023)

SmoothQuant: Accurate and Efficient Post-Training Quantization for Large Language Models
von: Xiao, Guangxuan, et al.
Veröffentlicht: (2022)

Labrador: Exploring the Limits of Masked Language Modeling for Laboratory Data
von: Bellamy, David R., et al.
Veröffentlicht: (2023)

Confidence Regularized Masked Language Modeling using Text Length
von: Ji, Seunghyun, et al.
Veröffentlicht: (2025)

Masked Thought: Simply Masking Partial Reasoning Steps Can Improve Mathematical Reasoning Learning of Language Models
von: Chen, Changyu, et al.
Veröffentlicht: (2024)

Revisiting Graph-Tokenizing Large Language Models: A Systematic Evaluation of Graph Token Understanding
von: Zhang, Zhongjian, et al.
Veröffentlicht: (2026)

Token-Efficient Leverage Learning in Large Language Models
von: Zeng, Yuanhao, et al.
Veröffentlicht: (2024)

Language Model Cascades: Token-level uncertainty and beyond
von: Gupta, Neha, et al.
Veröffentlicht: (2024)

Compositional Steering of Large Language Models with Steering Tokens
von: Radevski, Gorjan, et al.
Veröffentlicht: (2026)