BestServe: Serving Strategies with Optimal Goodput in Collocation and Disaggregation Architectures

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Hu, Xiannan, Zeng, Tianyou, Yuan, Xiaoming, Song, Liwei, Zhang, Guangyuan, He, Bangzheng
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Distributed, Parallel, and Cluster Computing Performance
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2506.05871