Diversifying the Mixture-of-Experts Representation for Language Models with Orthogonal Optimizer

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Liu, Boan, Ding, Liang, Shen, Li, Peng, Keqin, Cao, Yu, Cheng, Dazhao, Tao, Dacheng
Formato: Preprint
Publicado: 2023
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!