Dataset Decomposition: Faster LLM Training with Variable Sequence Length Curriculum

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Pouransari, Hadi, Li, Chun-Liang, Chang, Jen-Hao Rick, Vasu, Pavan Kumar Anasosalu, Koc, Cem, Shankar, Vaishaal, Tuzel, Oncel
Format: Preprint
Veröffentlicht: 2024
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!