When Attention Collapses: How Degenerate Layers in LLMs Enable Smaller, Stronger Models

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Sanyal, Sunny, Shwartz-Ziv, Ravid, Dimakis, Alexandros G., Sanghavi, Sujay
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!