Hierarchical Autoscaling for Large Language Model Serving with Chiron

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Patke, Archit, Reddy, Dhemath, Jha, Saurabh, Narayanaswami, Chandra, Kalbarczyk, Zbigniew, Iyer, Ravishankar
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!