Get More with LESS: Synthesizing Recurrence with KV Cache Compression for Efficient LLM Inference

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Dong, Harry, Yang, Xinyu, Zhang, Zhenyu, Wang, Zhangyang, Chi, Yuejie, Chen, Beidi
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!