LatencyPrism: Online Non-intrusive Latency Sculpting for SLO-Guaranteed LLM Inference

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Du, Yin, Ren, Jiayi, Sun, Xiayu, Zhou, Tianyao, Zhou, Haizhu, Ma, Ruiyan, Zhang, Danyang
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!