Beyond Scaling: Measuring and Predicting the Upper Bound of Knowledge Retention in Language Model Pre-Training

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Jiang, Changhao, Zhang, Ming, Cao, Yifei, Ye, Junjie, Fan, Xiaoran, Dou, Shihan, Xi, Zhiheng, Sun, Jiajun, Dong, Yi, Shen, Yujiong, Tong, Jingqi, Fan, Baoyu, Gui, Tao, Zhang, Qi, Huang, Xuanjing
Format: Preprint
Veröffentlicht: 2025
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!