PRISM: Fast Online LLM Serving via Scheduling-Memory Co-design

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Qu, Xingyu, Lin, Tianhao, Li, Yiqi, Chen, Zhiyu, Wang, Sheng
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!