How to Scale Mixture-of-Experts: From muP to the Maximally Scale-Stable Parameterization

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Vankadara, Leena Chennuru, Haas, Moritz, Hayward, Luke, Bordt, Sebastian, Breccia, Alessandro
Formato: Preprint
Publicado: 2026
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!