ContiguousKV: Accelerating LLM Prefill with Granularity-Aligned KV Cache Management

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Zou, Jing, Wu, Shangyu, Duan, Hancong, Li, Qiao, Xue, Chun Jason
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!