KV-RM: Regularizing KV-Cache Movement for Static-Graph LLM Serving

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Zhong, Zhiqing, Ye, Zhijing, Zhang, Jian, Zheng, Weijian, Sun, Bolun, Yu, Xiaodong
Formato:	Preprint
Publicado:	2026
Materias:	Hardware Architecture Artificial Intelligence Distributed, Parallel, and Cluster Computing Operating Systems Primary category: cs.DC Possible cross-list: cs.PF
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2605.09735