Buchumschlag

Prompt, Translate, Fine-Tune, Re-Initialize, or Instruction-Tune? Adapting LLMs for In-Context Learning in Low-Resource Languages

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Toukmaji, Christopher, Flanigan, Jeffrey
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Few-Shot Cross-Lingual Transfer for Prompting Large Language Models in Low-Resource Languages
von: Toukmaji, Christopher
Veröffentlicht: (2024)

Fine-Tuning LLMs for Low-Resource Dialect Translation: The Case of Lebanese
von: Yakhni, Silvana, et al.
Veröffentlicht: (2025)

Unlocking Parameter-Efficient Fine-Tuning for Low-Resource Language Translation
von: Su, Tong, et al.
Veröffentlicht: (2024)

Tuning LLMs with Contrastive Alignment Instructions for Machine Translation in Unseen, Low-resource Languages
von: Mao, Zhuoyuan, et al.
Veröffentlicht: (2024)

Challenges in Adapting Multilingual LLMs to Low-Resource Languages using LoRA PEFT Tuning
von: Khade, Omkar, et al.
Veröffentlicht: (2024)

LLMs for Low-Resource Dialect Translation Using Context-Aware Prompting: A Case Study on Sylheti
von: Prama, Tabia Tanzin, et al.
Veröffentlicht: (2025)

Adapting Large Language Models to Low-Resource Tibetan: A Two-Stage Continual and Supervised Fine-Tuning Study
von: Chen, Lifeng, et al.
Veröffentlicht: (2025)

Building Accurate Translation-Tailored LLMs with Language Aware Instruction Tuning
von: Zan, Changtong, et al.
Veröffentlicht: (2024)

Vuyko Mistral: Adapting LLMs for Low-Resource Dialectal Translation
von: Kyslyi, Roman, et al.
Veröffentlicht: (2025)

Unsupervised End-to-End Task-Oriented Dialogue with LLMs: The Power of the Noisy Channel
von: King, Brendan, et al.
Veröffentlicht: (2024)

Instruction Tuning and CoT Prompting for Contextual Medical QA with LLMs
von: Le, Chenqian, et al.
Veröffentlicht: (2025)

GIFT: Guided Fine-Tuning and Transfer for Enhancing Instruction-Tuned Language Models
von: Ruan, Zhiwen, et al.
Veröffentlicht: (2026)

Low-Resource Fine-Tuning for Multi-Task Structured Information Extraction with a Billion-Parameter Instruction-Tuned Model
von: Chih, Yu Cheng, et al.
Veröffentlicht: (2025)

Instruction Fine-Tuning: Does Prompt Loss Matter?
von: Huerta-Enochian, Mathew, et al.
Veröffentlicht: (2024)

LiFT: Does Instruction Fine-Tuning Improve In-Context Learning for Longitudinal Modelling by Large Language Models?
von: Ali, Iqra, et al.
Veröffentlicht: (2026)

Minimal-Edit Instruction Tuning for Low-Resource Indic GEC
von: P, Akhil Rajeev
Veröffentlicht: (2025)

Prompt Tuning for Natural Language to SQL with Embedding Fine-Tuning and RAG
von: Jang, Jisoo, et al.
Veröffentlicht: (2025)

Balancing Continuous Pre-Training and Instruction Fine-Tuning: Optimizing Instruction-Following in LLMs
von: Jindal, Ishan, et al.
Veröffentlicht: (2024)

Supervised Fine-Tuning or In-Context Learning? Evaluating LLMs for Clinical NER
von: Baroian, Andrei
Veröffentlicht: (2025)

Towards Better Understanding of Cybercrime: The Role of Fine-Tuned LLMs in Translation
von: Valeros, Veronica, et al.
Veröffentlicht: (2024)

DeMPT: Decoding-enhanced Multi-phase Prompt Tuning for Making LLMs Be Better Context-aware Translators
von: Lyu, Xinglin, et al.
Veröffentlicht: (2024)

The Inherent Limits of Pretrained LLMs: The Unexpected Convergence of Instruction Tuning and In-Context Learning Capabilities
von: Bigoulaeva, Irina, et al.
Veröffentlicht: (2025)

Breaking Physical and Linguistic Borders: Multilingual Federated Prompt Tuning for Low-Resource Languages
von: Zhao, Wanru, et al.
Veröffentlicht: (2025)

IAPT: Instruction-Aware Prompt Tuning for Large Language Models
von: Zhu, Wei, et al.
Veröffentlicht: (2024)

ScoNe: Benchmarking Negation Reasoning in Language Models With Fine-Tuning and In-Context Learning
von: She, Jingyuan Selena, et al.
Veröffentlicht: (2023)

Comparative Analysis of Different Efficient Fine Tuning Methods of Large Language Models (LLMs) in Low-Resource Setting
von: Srinivasan, Krishna Prasad Varadarajan, et al.
Veröffentlicht: (2024)

Beyond Vanilla Fine-Tuning: Leveraging Multistage, Multilingual, and Domain-Specific Methods for Low-Resource Machine Translation
von: Thillainathan, Sarubi, et al.
Veröffentlicht: (2025)

DELIFT: Data Efficient Language model Instruction Fine Tuning
von: Agarwal, Ishika, et al.
Veröffentlicht: (2024)

Dynamics of Instruction Fine-Tuning for Chinese Large Language Models
von: Song, Chiyu, et al.
Veröffentlicht: (2023)

Low-Resource Domain Adaptation for Speech LLMs via Text-Only Fine-Tuning
von: Fang, Yangui, et al.
Veröffentlicht: (2025)

Phased Instruction Fine-Tuning for Large Language Models
von: Pang, Wei, et al.
Veröffentlicht: (2024)

Few-Shot Prompting for Extractive Quranic QA with Instruction-Tuned LLMs
von: Basem, Mohamed, et al.
Veröffentlicht: (2025)

Improving Low-Resource Translation with Dictionary-Guided Fine-Tuning and RL: A Spanish-to-Wayuunaiki Study
von: Mosquera, Manuel, et al.
Veröffentlicht: (2025)

Context-aware Prompt Tuning: Advancing In-Context Learning with Adversarial Methods
von: Blau, Tsachi, et al.
Veröffentlicht: (2024)

Adapting LLMs for the Medical Domain in Portuguese: A Study on Fine-Tuning and Model Evaluation
von: Paiola, Pedro Henrique, et al.
Veröffentlicht: (2024)

Should We Fine-Tune or RAG? Evaluating Different Techniques to Adapt LLMs for Dialogue
von: Alghisi, Simone, et al.
Veröffentlicht: (2024)

MURI: High-Quality Instruction Tuning Datasets for Low-Resource Languages via Reverse Instructions
von: Köksal, Abdullatif, et al.
Veröffentlicht: (2024)

Optimizing Fine-Tuning through Advanced Initialization Strategies for Low-Rank Adaptation
von: Xue, Yongfu
Veröffentlicht: (2025)

ReFT: Reasoning with Reinforced Fine-Tuning
von: Luong, Trung Quoc, et al.
Veröffentlicht: (2024)

Simplify-This: A Comparative Analysis of Prompt-Based and Fine-Tuned LLMs
von: Cohen, Eilam, et al.
Veröffentlicht: (2026)