SPAM: Spike-Aware Adam with Momentum Reset for Stable LLM Training

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Huang, Tianjin, Zhu, Ziquan, Jin, Gaojie, Liu, Lu, Wang, Zhangyang, Liu, Shiwei
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!