Prefill-as-a-Service: KVCache of Next-Generation Models Could Go Cross-Datacenter

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Qin, Ruoyu, He, Weiran, Wang, Yaoyu, Li, Zheming, Xu, Xinran, Wu, Yongwei, Zheng, Weimin, Zhang, Mingxing
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Distributed, Parallel, and Cluster Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2604.15039