A Study on Hidden Layer Distillation for Large Language Model Pre-Training

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Guigon, Maxime, Dixon, Lucas, Sander, Michaël E.
Format: Preprint
Veröffentlicht: 2026
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!