BanaServe: Unified KV Cache and Dynamic Module Migration for Balancing Disaggregated LLM Serving in AI Infrastructure

Fuente: Wiley Open Access

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yiyuan He, Minxian Xu, Jingfeng Wu, Jianmin Hu, Chong Ma, Min Shen, Le Chen, Chengzhong Xu, Lin Qu, Kejiang Ye
Format:	Artículo Open Access
Veröffentlicht:	Wiley 2026
Schlagworte:	Software: Practice and Experience
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Schreiben Sie den ersten Kommentar!

Ähnliche Einträge