MrBERT: Modern Multilingual Encoders via Vocabulary, Domain, and Dimensional Adaptation
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Tamayo, Daniel, Lacunza, Iñaki, Rivera-Hidalgo, Paula, Da Dalt, Severino, Aula-Blasco, Javier, Gonzalez-Agirre, Aitor, Villegas, Marta |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
XDoGE: Multilingual Data Reweighting to Enhance Language Inclusivity in LLMs
par: Lacunza, Iñaki, et autres
Publié: (2025)
par: Lacunza, Iñaki, et autres
Publié: (2025)
ACADATA: Parallel Dataset of Academic Data for Machine Translation
par: Lacunza, Iñaki, et autres
Publié: (2025)
par: Lacunza, Iñaki, et autres
Publié: (2025)
Breaking Language Barriers in Visual Language Models via Multilingual Textual Regularization
par: Pikabea, Iñigo, et autres
Publié: (2025)
par: Pikabea, Iñigo, et autres
Publié: (2025)
Mass-Editing Memory with Attention in Transformers: A cross-lingual exploration of knowledge
par: Tamayo, Daniel, et autres
Publié: (2025)
par: Tamayo, Daniel, et autres
Publié: (2025)
Salamandra Technical Report
par: Gonzalez-Agirre, Aitor, et autres
Publié: (2025)
par: Gonzalez-Agirre, Aitor, et autres
Publié: (2025)
mmBERT: A Modern Multilingual Encoder with Annealed Language Learning
par: Marone, Marc, et autres
Publié: (2025)
par: Marone, Marc, et autres
Publié: (2025)
EuroBERT: Scaling Multilingual Encoders for European Languages
par: Boizard, Nicolas, et autres
Publié: (2025)
par: Boizard, Nicolas, et autres
Publié: (2025)
New insights into the therapeutic options to lower lipoprotein(a)
par: A. Baragetti, et autres
Publié: (2024)
par: A. Baragetti, et autres
Publié: (2024)
m3BERT: A Modern, Multi-lingual, Matryoshka Bidirectional Encoder
par: Wang, Yaoxiang, et autres
Publié: (2026)
par: Wang, Yaoxiang, et autres
Publié: (2026)
AraModernBERT: Transtokenized Initialization and Long-Context Encoder Modeling for Arabic
par: Elshehy, Omar, et autres
Publié: (2026)
par: Elshehy, Omar, et autres
Publié: (2026)
ModernBERT + ColBERT: Enhancing biomedical RAG through an advanced re-ranking retriever
par: Rivera, Eduardo Martínez, et autres
Publié: (2025)
par: Rivera, Eduardo Martínez, et autres
Publié: (2025)
La diligencia debida como herramienta de prevención del conflicto en la República Democrática del Congo
par: Ilari Aula
Publié: (2020)
par: Ilari Aula
Publié: (2020)
ADOLESCENCIA Y DROGAS
par: Yalltza Aula
Publié: (2011)
par: Yalltza Aula
Publié: (2011)
Modular Adaptation of Multilingual Encoders to Written Swiss German Dialect
par: Vamvas, Jannis, et autres
Publié: (2024)
par: Vamvas, Jannis, et autres
Publié: (2024)
Domain Adaptation for Large-Vocabulary Object Detectors
par: Jiang, Kai, et autres
Publié: (2024)
par: Jiang, Kai, et autres
Publié: (2024)
Cross-lingual Self-Consistency for Multilingual Reasoning with Language Models
par: Elhady, Ahmed, et autres
Publié: (2026)
par: Elhady, Ahmed, et autres
Publié: (2026)
NusaBERT: Teaching IndoBERT to be Multilingual and Multicultural
par: Wongso, Wilson, et autres
Publié: (2024)
par: Wongso, Wilson, et autres
Publié: (2024)
BioClinical ModernBERT: A State-of-the-Art Long-Context Encoder for Biomedical and Clinical NLP
par: Sounack, Thomas, et autres
Publié: (2025)
par: Sounack, Thomas, et autres
Publié: (2025)
Revisiting Compositionality in Dual-Encoder Vision-Language Models: The Role of Inference
par: Miranda, Imanol, et autres
Publié: (2026)
par: Miranda, Imanol, et autres
Publié: (2026)
ModernBERT or DeBERTaV3? Examining Architecture and Data Influence on Transformer Encoder Models Performance
par: Antoun, Wissam, et autres
Publié: (2025)
par: Antoun, Wissam, et autres
Publié: (2025)
Comparative Analysis of Lion and AdamW Optimizers for Cross-Encoder Reranking with MiniLM, GTE, and ModernBERT
par: Kumar, Shahil, et autres
Publié: (2025)
par: Kumar, Shahil, et autres
Publié: (2025)
How does speed and accuracy in reading relate to reading comprehension in Arabic?
par: Aula Khateeb Abu Leil
Publié: (2014)
par: Aula Khateeb Abu Leil
Publié: (2014)
Emergent Abilities of Large Language Models under Continued Pretraining for Language Adaptation
par: Elhady, Ahmed, et autres
Publié: (2025)
par: Elhady, Ahmed, et autres
Publié: (2025)
MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety
par: Yang, Yahan, et autres
Publié: (2025)
par: Yang, Yahan, et autres
Publié: (2025)
mHuBERT-147: A Compact Multilingual HuBERT Model
par: Boito, Marcely Zanon, et autres
Publié: (2024)
par: Boito, Marcely Zanon, et autres
Publié: (2024)
PolyBERT: Fine-Tuned Poly Encoder BERT-Based Model for Word Sense Disambiguation
par: Xia, Linhan, et autres
Publié: (2025)
par: Xia, Linhan, et autres
Publié: (2025)
MM-Eval: A Multilingual Meta-Evaluation Benchmark for LLM-as-a-Judge and Reward Models
par: Son, Guijin, et autres
Publié: (2024)
par: Son, Guijin, et autres
Publié: (2024)
Domain Adaptation of Multilingual Semantic Search -- Literature Review
par: Bringmann, Anna, et autres
Publié: (2024)
par: Bringmann, Anna, et autres
Publié: (2024)
Dependency Annotation of Ottoman Turkish with Multilingual BERT
par: Özateş, Şaziye Betül, et autres
Publié: (2024)
par: Özateş, Şaziye Betül, et autres
Publié: (2024)
SwissBERT: The Multilingual Language Model for Switzerland
par: Vamvas, Jannis, et autres
Publié: (2023)
par: Vamvas, Jannis, et autres
Publié: (2023)
HACIA UNA CRIMINOLOGÍA CRÍTICA GLOBAL
par: Iñaki Rivera Beiras
Publié: (2016)
par: Iñaki Rivera Beiras
Publié: (2016)
Multi-BERT: Leveraging Adapters and Prompt Tuning for Low-Resource Multi-Domain Adaptation
par: Azad, Parham Abed, et autres
Publié: (2024)
par: Azad, Parham Abed, et autres
Publié: (2024)
Rapid Language Adaptation for Multilingual E2E Speech Recognition Using Encoder Prompting
par: Kashiwagi, Yosuke, et autres
Publié: (2024)
par: Kashiwagi, Yosuke, et autres
Publié: (2024)
RexBERT: Context Specialized Bidirectional Encoders for E-commerce
par: Bajaj, Rahul, et autres
Publié: (2026)
par: Bajaj, Rahul, et autres
Publié: (2026)
MosaicBERT: A Bidirectional Encoder Optimized for Fast Pretraining
par: Portes, Jacob, et autres
Publié: (2023)
par: Portes, Jacob, et autres
Publié: (2023)
KNOW: Developing large-scale multilingual technologies for language understanding
par: Eneko Agirre
Publié: (2009)
par: Eneko Agirre
Publié: (2009)
El nuevo Hollywood y la posmodernidad: entre la subversión y el neoconservadurismo
par: Katixa Agirre
Publié: (2014)
par: Katixa Agirre
Publié: (2014)
Exploring feature set combinations for WSD
par: Eneko Agirre
Publié: (2006)
par: Eneko Agirre
Publié: (2006)
GIZARTE HEZITZAILEA LANBIDEZ: KORAPILOAK ASKATU NAHIAN
par: Nerea Agirre
Publié: (2007)
par: Nerea Agirre
Publié: (2007)
Los principios cooperativos atractores de la gestión eficiente: su medición. Aplicación al caso de Mondragón corporación cooperativa
par: Amaia Agirre
Publié: (2001)
par: Amaia Agirre
Publié: (2001)
Documents similaires
-
XDoGE: Multilingual Data Reweighting to Enhance Language Inclusivity in LLMs
par: Lacunza, Iñaki, et autres
Publié: (2025) -
ACADATA: Parallel Dataset of Academic Data for Machine Translation
par: Lacunza, Iñaki, et autres
Publié: (2025) -
Breaking Language Barriers in Visual Language Models via Multilingual Textual Regularization
par: Pikabea, Iñigo, et autres
Publié: (2025) -
Mass-Editing Memory with Attention in Transformers: A cross-lingual exploration of knowledge
par: Tamayo, Daniel, et autres
Publié: (2025) -
Salamandra Technical Report
par: Gonzalez-Agirre, Aitor, et autres
Publié: (2025)