Revisiting the Adam-SGD Gap in LLM Pre-Training: The Role of Large Effective Learning Rates

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Glentis, Athanasios, Li, Dawei, Yau, Chung-Yiu, Hong, Mingyi
Formato: Preprint
Publicado: 2026
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!