RelayCaching: Accelerating LLM Collaboration via Decoding KV Cache Reuse

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Geng, Yingsheng, Gao, Yuchong, Wu, Weihong, Liu, Guyue, Liu, Jiang
Formato: Preprint
Publicado: 2026
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!