ManifoldKV: Training-Free KV Cache Compression via Euclidean Outlier Detection

Documenti analoghi

• KVSculpt: KV Cache Compression as Distillation
  di: Jiang, Bo, et al.
  Pubblicazione: (2026)
• RotateKV: Accurate and Robust 2-Bit KV Cache Quantization for LLMs via Outlier-Aware Adaptive Rotations
  di: Su, Zunhai, et al.
  Pubblicazione: (2025)
• Training-Free Exponential Context Extension via Cascading KV Cache
  di: Willette, Jeffrey, et al.
  Pubblicazione: (2024)
• OjaKV: Context-Aware Online Low-Rank KV Cache Compression
  di: Zhu, Yuxuan, et al.
  Pubblicazione: (2025)
• FreeKV: Boosting KV Cache Retrieval for Efficient LLM Inference
  di: Liu, Guangda, et al.
  Pubblicazione: (2025)