Mixture-of-Depths: Dynamically allocating compute in transformer-based language models

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Raposo, David, Ritter, Sam, Richards, Blake, Lillicrap, Timothy, Humphreys, Peter Conway, Santoro, Adam
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!