ENOVA: Autoscaling towards Cost-effective and Stable Serverless LLM Serving

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Huang, Tao, Chen, Pengfei, Gong, Kyoka, Hawk, Jocky, Bright, Zachary, Xie, Wenxin, Huang, Kecheng, Ji, Zhi
Natura: Preprint
Pubblicazione: 2024
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!