Strata: Hierarchical Context Caching for Long Context Language Model Serving

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Xie, Zhiqiang, Xu, Ziyi, Zhao, Mark, An, Yuwei, Mailthody, Vikram Sharma, Mahlke, Scott, Garland, Michael, Kozyrakis, Christos
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!