SmallKV: Small Model Assisted Compensation of KV Cache Compression for Efficient LLM Inference

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Zhao, Yi, Peng, Yajuan, Nguyen, Cam-Tu, Li, Zuchao, Wang, Xiaoliang, Zhao, Hai, Fu, Xiaoming
Formato:	Preprint
Publicado:	2025
Materias:	Machine Learning Artificial Intelligence
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2508.02751