Accelerating Large Language Model Training with 4D Parallelism and Memory Consumption Estimator

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Fujii, Kazuki, Watanabe, Kohei, Yokota, Rio
Format: Preprint
Publié: 2024
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!