ODMA: On-Demand Memory Allocation Strategy for LLM Serving on LPDDR-Class Accelerators

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Zou, Guoqiang, Wang, Wanyu, Zheng, Hao, Yin, Longxiang, Han, Yinhe
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!