Imagen de Portada

MrBERT: Modern Multilingual Encoders via Vocabulary, Domain, and Dimensional Adaptation

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Tamayo, Daniel, Lacunza, Iñaki, Rivera-Hidalgo, Paula, Da Dalt, Severino, Aula-Blasco, Javier, Gonzalez-Agirre, Aitor, Villegas, Marta
Formato:	Preprint
Publicado:	2026
Materias:	Computation and Language Artificial Intelligence Machine Learning
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Ejemplares similares

XDoGE: Multilingual Data Reweighting to Enhance Language Inclusivity in LLMs
por: Lacunza, Iñaki, et al.
Publicado: (2025)

ACADATA: Parallel Dataset of Academic Data for Machine Translation
por: Lacunza, Iñaki, et al.
Publicado: (2025)

Breaking Language Barriers in Visual Language Models via Multilingual Textual Regularization
por: Pikabea, Iñigo, et al.
Publicado: (2025)

Mass-Editing Memory with Attention in Transformers: A cross-lingual exploration of knowledge
por: Tamayo, Daniel, et al.
Publicado: (2025)

Salamandra Technical Report
por: Gonzalez-Agirre, Aitor, et al.
Publicado: (2025)

mmBERT: A Modern Multilingual Encoder with Annealed Language Learning
por: Marone, Marc, et al.
Publicado: (2025)

EuroBERT: Scaling Multilingual Encoders for European Languages
por: Boizard, Nicolas, et al.
Publicado: (2025)

New insights into the therapeutic options to lower lipoprotein(a)
por: A. Baragetti, et al.
Publicado: (2024)

m3BERT: A Modern, Multi-lingual, Matryoshka Bidirectional Encoder
por: Wang, Yaoxiang, et al.
Publicado: (2026)

AraModernBERT: Transtokenized Initialization and Long-Context Encoder Modeling for Arabic
por: Elshehy, Omar, et al.
Publicado: (2026)

ModernBERT + ColBERT: Enhancing biomedical RAG through an advanced re-ranking retriever
por: Rivera, Eduardo Martínez, et al.
Publicado: (2025)

La diligencia debida como herramienta de prevención del conflicto en la República Democrática del Congo
por: Ilari Aula
Publicado: (2020)

ADOLESCENCIA Y DROGAS
por: Yalltza Aula
Publicado: (2011)

Modular Adaptation of Multilingual Encoders to Written Swiss German Dialect
por: Vamvas, Jannis, et al.
Publicado: (2024)

Domain Adaptation for Large-Vocabulary Object Detectors
por: Jiang, Kai, et al.
Publicado: (2024)

Cross-lingual Self-Consistency for Multilingual Reasoning with Language Models
por: Elhady, Ahmed, et al.
Publicado: (2026)

NusaBERT: Teaching IndoBERT to be Multilingual and Multicultural
por: Wongso, Wilson, et al.
Publicado: (2024)

BioClinical ModernBERT: A State-of-the-Art Long-Context Encoder for Biomedical and Clinical NLP
por: Sounack, Thomas, et al.
Publicado: (2025)

Revisiting Compositionality in Dual-Encoder Vision-Language Models: The Role of Inference
por: Miranda, Imanol, et al.
Publicado: (2026)

ModernBERT or DeBERTaV3? Examining Architecture and Data Influence on Transformer Encoder Models Performance
por: Antoun, Wissam, et al.
Publicado: (2025)

Comparative Analysis of Lion and AdamW Optimizers for Cross-Encoder Reranking with MiniLM, GTE, and ModernBERT
por: Kumar, Shahil, et al.
Publicado: (2025)

How does speed and accuracy in reading relate to reading comprehension in Arabic?
por: Aula Khateeb Abu Leil
Publicado: (2014)

Emergent Abilities of Large Language Models under Continued Pretraining for Language Adaptation
por: Elhady, Ahmed, et al.
Publicado: (2025)

MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety
por: Yang, Yahan, et al.
Publicado: (2025)

mHuBERT-147: A Compact Multilingual HuBERT Model
por: Boito, Marcely Zanon, et al.
Publicado: (2024)

PolyBERT: Fine-Tuned Poly Encoder BERT-Based Model for Word Sense Disambiguation
por: Xia, Linhan, et al.
Publicado: (2025)

MM-Eval: A Multilingual Meta-Evaluation Benchmark for LLM-as-a-Judge and Reward Models
por: Son, Guijin, et al.
Publicado: (2024)

Domain Adaptation of Multilingual Semantic Search -- Literature Review
por: Bringmann, Anna, et al.
Publicado: (2024)

Dependency Annotation of Ottoman Turkish with Multilingual BERT
por: Özateş, Şaziye Betül, et al.
Publicado: (2024)

SwissBERT: The Multilingual Language Model for Switzerland
por: Vamvas, Jannis, et al.
Publicado: (2023)

HACIA UNA CRIMINOLOGÍA CRÍTICA GLOBAL
por: Iñaki Rivera Beiras
Publicado: (2016)

Multi-BERT: Leveraging Adapters and Prompt Tuning for Low-Resource Multi-Domain Adaptation
por: Azad, Parham Abed, et al.
Publicado: (2024)

Rapid Language Adaptation for Multilingual E2E Speech Recognition Using Encoder Prompting
por: Kashiwagi, Yosuke, et al.
Publicado: (2024)

RexBERT: Context Specialized Bidirectional Encoders for E-commerce
por: Bajaj, Rahul, et al.
Publicado: (2026)

MosaicBERT: A Bidirectional Encoder Optimized for Fast Pretraining
por: Portes, Jacob, et al.
Publicado: (2023)

KNOW: Developing large-scale multilingual technologies for language understanding
por: Eneko Agirre
Publicado: (2009)

El nuevo Hollywood y la posmodernidad: entre la subversión y el neoconservadurismo
por: Katixa Agirre
Publicado: (2014)

Exploring feature set combinations for WSD
por: Eneko Agirre
Publicado: (2006)

GIZARTE HEZITZAILEA LANBIDEZ: KORAPILOAK ASKATU NAHIAN
por: Nerea Agirre
Publicado: (2007)

Los principios cooperativos atractores de la gestión eficiente: su medición. Aplicación al caso de Mondragón corporación cooperativa
por: Amaia Agirre
Publicado: (2001)