How Can We Synthesize High-Quality Pretraining Data? A Systematic Study of Prompt Design, Generator Model, and Source Data

Fuente: arXiv

Enregistré dans:

Détails bibliographiques
Auteurs principaux:	Niklaus, Joel, Yamaguchi, Atsuki, Štefánik, Michal, Penedo, Guilherme, Kydlíček, Hynek, Bakouch, Elie, Tunstall, Lewis, Beeching, Edward Emanuel, Frere, Thibaud, Raffel, Colin, von Werra, Leandro, Wolf, Thomas
Format:	Preprint
Publié:	2026
Sujets:	Computation and Language Artificial Intelligence Machine Learning
Accès en ligne:	Acceder al recurso
Tags:	Ajouter un tag Pas de tags, Soyez le premier à ajouter un tag!

Internet

https://arxiv.org/abs/2604.13977