X-EcoMLA: Upcycling Pre-Trained Attention into MLA for Efficient and Extreme KV Compression

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Li, Guihong, Rezagholizadeh, Mehdi, Yang, Mingyu, Appia, Vikram, Barsoum, Emad
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!