Demystifying Cost-Efficiency in LLM Serving over Heterogeneous GPUs

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Jiang, Youhe, Fu, Fangcheng, Yao, Xiaozhe, He, Guoliang, Miao, Xupeng, Klimovic, Ana, Cui, Bin, Yuan, Binhang, Yoneki, Eiko
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!