What Kinds of Tokens Benefit from Distant Text? An Analysis on Long Context Language Modeling

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Hu, Yutong, Huang, Quzhe, Luo, Kangcheng, Feng, Yansong
Format: Preprint
Publié: 2024
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!