LKV: End-to-End Learning of Head-wise Budgets and Token Selection for LLM KV Cache Eviction

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhou, Enshuai, Hao, Yifan, Wang, Chao, Zhang, Rui, Huang, Di, Guo, Jiaming, Hu, Xing, Du, Zidong, Guo, Qi, Chen, Yunji
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2605.06676