Clipping Improves Adam-Norm and AdaGrad-Norm when the Noise Is Heavy-Tailed

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Chezhegov, Savelii, Klyukin, Yaroslav, Semenov, Andrei, Beznosikov, Aleksandr, Gasnikov, Alexander, Horváth, Samuel, Takáč, Martin, Gorbunov, Eduard
Natura: Preprint
Pubblicazione: 2024
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!