Single-Head Attention in High Dimensions: A Theory of Generalization, Weights Spectra, and Scaling Laws

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Boncoraglio, Fabrizio, Erba, Vittorio, Troiani, Emanuele, Xu, Yizhou, Krzakala, Florent, Zdeborová, Lenka
Format: Preprint
Publié: 2025
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!