CalibQuant: 1-Bit KV Cache Quantization for Multimodal LLMs

Documenti analoghi

• PolarQuant: Quantizing KV Caches with Polar Transformation
  di: Han, Insu, et al.
  Pubblicazione: (2025)
• QJL: 1-Bit Quantized JL Transform for KV Cache Quantization with Zero Overhead
  di: Zandieh, Amir, et al.
  Pubblicazione: (2024)
• LogQuant: Log-Distributed 2-Bit Quantization of KV Cache with Superior Accuracy Preservation
  di: Chen, Han, et al.
  Pubblicazione: (2025)
• Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization
  di: Xi, Haocheng, et al.
  Pubblicazione: (2026)
• QuantSpec: Self-Speculative Decoding with Hierarchical Quantized KV Cache
  di: Tiwari, Rishabh, et al.
  Pubblicazione: (2025)