Buchumschlag

Enhancing LLM Language Adaption through Cross-lingual In-Context Pre-training

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wu, Linjuan, Wei, Haoran, Lin, Huan, Li, Tianhao, Yang, Baosong, Huang, Fei, Lu, Weiming
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Language as a Latent Variable for Reasoning Optimization
von: Wu, Linjuan, et al.
Veröffentlicht: (2026)

A Data-Efficient Path to Multilingual LLMs: Language Expansion via Post-training PARAM$Δ$ Integration into Upcycled MoE
von: Zhou, Hao, et al.
Veröffentlicht: (2026)

Towards Cross-lingual Values Judgment: A Consensus-Pluralism Perspective
von: Chen, Yukun, et al.
Veröffentlicht: (2026)

Multimodal LLM Enhanced Cross-lingual Cross-modal Retrieval
von: Wang, Yabing, et al.
Veröffentlicht: (2024)

Semantic Aware Linear Transfer by Recycling Pre-trained Language Models for Cross-lingual Transfer
von: Lee, Seungyoon, et al.
Veröffentlicht: (2025)

TimeToM: Temporal Space is the Key to Unlocking the Door of Large Language Models' Theory-of-Mind
von: Hou, Guiyang, et al.
Veröffentlicht: (2024)

Continual Pre-Training is (not) What You Need in Domain Adaption
von: Chen, Pin-Er, et al.
Veröffentlicht: (2025)

On the Cross-lingual Transferability of Pre-trained wav2vec2-based Models
von: Grosman, Jonatas, et al.
Veröffentlicht: (2025)

MoE-CT: A Novel Approach For Large Language Models Training With Resistance To Catastrophic Forgetting
von: Li, Tianhao, et al.
Veröffentlicht: (2024)

Enhancing Cross-lingual Sentence Embedding for Low-resource Languages with Word Alignment
von: Miao, Zhongtao, et al.
Veröffentlicht: (2024)

Adaptive Cross-lingual Text Classification through In-Context One-Shot Demonstrations
von: Villa-Cueva, Emilio, et al.
Veröffentlicht: (2024)

Pre-training Cross-lingual Open Domain Question Answering with Large-scale Synthetic Supervision
von: Jiang, Fan, et al.
Veröffentlicht: (2024)

PolyMath: Evaluating Mathematical Reasoning in Multilingual Contexts
von: Wang, Yiming, et al.
Veröffentlicht: (2025)

Cross-lingual Alzheimer's Disease detection based on paralinguistic and pre-trained features
von: Chen, Xuchu, et al.
Veröffentlicht: (2023)

P-MMEval: A Parallel Multilingual Multitask Benchmark for Consistent Evaluation of LLMs
von: Zhang, Yidan, et al.
Veröffentlicht: (2024)

Qwen-Scope: Turning Sparse Features into Development Tools for Large Language Models
von: Deng, Boyi, et al.
Veröffentlicht: (2026)

Cross-layer Attention Sharing for Pre-trained Large Language Models
von: Mu, Yongyu, et al.
Veröffentlicht: (2024)

xCoT: Cross-lingual Instruction Tuning for Cross-lingual Chain-of-Thought Reasoning
von: Chai, Linzheng, et al.
Veröffentlicht: (2024)

Cross-lingual robustness of LLM-brain alignment and its computational roots
von: Yang, Ni, et al.
Veröffentlicht: (2026)

TRELM: Towards Robust and Efficient Pre-training for Knowledge-Enhanced Language Models
von: Yan, Junbing, et al.
Veröffentlicht: (2024)

Enhancing One-shot Pruned Pre-trained Language Models through Sparse-Dense-Sparse Mechanism
von: Li, Guanchen, et al.
Veröffentlicht: (2024)

X-Instruction: Aligning Language Model in Low-resource Languages with Self-curated Cross-lingual Instructions
von: Li, Chong, et al.
Veröffentlicht: (2024)

Constrained Decoding for Cross-lingual Label Projection
von: Le, Duong Minh, et al.
Veröffentlicht: (2024)

Enhancing Linguistic Competence of Language Models through Pre-training with Language Learning Tasks
von: Yamaguchi, Atsuki, et al.
Veröffentlicht: (2026)

Efficient Training for Cross-lingual Speech Language Models
von: Zhou, Yan, et al.
Veröffentlicht: (2026)

Rethinking the Chain-of-Thought: The Roles of In-Context Learning and Pre-trained Priors
von: Yang, Hao, et al.
Veröffentlicht: (2025)

Selected Languages are All You Need for Cross-lingual Truthfulness Transfer
von: Liu, Weihao, et al.
Veröffentlicht: (2024)

Thinking Augmented Pre-training
von: Wang, Liang, et al.
Veröffentlicht: (2025)

Breaking the Curse of Multilinguality with Cross-lingual Expert Language Models
von: Blevins, Terra, et al.
Veröffentlicht: (2024)

Understanding and Mitigating Cross-lingual Privacy Leakage via Language-specific and Universal Privacy Neurons
von: Dong, Wenshuo, et al.
Veröffentlicht: (2025)

Comparing LLM prompting with Cross-lingual transfer performance on Indigenous and Low-resource Brazilian Languages
von: Adelani, David Ifeoluwa, et al.
Veröffentlicht: (2024)

Frustratingly Easy Label Projection for Cross-lingual Transfer
von: Chen, Yang, et al.
Veröffentlicht: (2022)

Cross-lingual Editing in Multilingual Language Models
von: Beniwal, Himanshu, et al.
Veröffentlicht: (2024)

Language Fusion for Parameter-Efficient Cross-lingual Transfer
von: Borchert, Philipp, et al.
Veröffentlicht: (2025)

A Context-Aware Approach for Enhancing Data Imputation with Pre-trained Language Models
von: Hayat, Ahatsham, et al.
Veröffentlicht: (2024)

Large Language Models are Good Multi-lingual Learners : When LLMs Meet Cross-lingual Prompts
von: Wang, Teng, et al.
Veröffentlicht: (2024)

Multilingual Generative Retrieval via Cross-lingual Semantic Compression
von: Huang, Yuxin, et al.
Veröffentlicht: (2025)

XRAG: Cross-lingual Retrieval-Augmented Generation
von: Liu, Wei, et al.
Veröffentlicht: (2025)

Cross-lingual Contextualized Phrase Retrieval
von: Li, Huayang, et al.
Veröffentlicht: (2024)

SparseLLM: Towards Global Pruning for Pre-trained Language Models
von: Bai, Guangji, et al.
Veröffentlicht: (2024)