HydraServe: Minimizing Cold Start Latency for Serverless LLM Serving in Public Clouds

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Lou, Chiheng, Qi, Sheng, Jin, Chao, Nie, Dapeng, Yang, Haoran, Ding, Yu, Liu, Xuanzhe, Jin, Xin
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!