Efficient Training of Robust Traditional Chinese LLaMA-1B on a Single Consumer GPU: Continual Pre-training, SFT, and DPO

Ähnliche Einträge

• LLaMA-MoE: Building Mixture-of-Experts from LLaMA with Continual Pre-training
  von: Zhu, Tong, et al.
  Veröffentlicht: (2024)
• ECHO-LLaMA: Efficient Caching for High-Performance LLaMA Training
  von: Dialameh, Maryam, et al.
  Veröffentlicht: (2025)
• LLaMA Pro: Progressive LLaMA with Block Expansion
  von: Wu, Chengyue, et al.
  Veröffentlicht: (2024)
• Efficient and Effective Text Encoding for Chinese LLaMA and Alpaca
  von: Cui, Yiming, et al.
  Veröffentlicht: (2023)
• LLaMA-MoE v2: Exploring Sparsity of LLaMA from Perspective of Mixture-of-Experts with Post-Training
  von: Qu, Xiaoye, et al.
  Veröffentlicht: (2024)