Documenti analoghi

• CSKV: Training-Efficient Channel Shrinking for KV Cache in Long-Context Scenarios
  di: Wang, Luning, et al.
  Pubblicazione: (2024)
• FrameFusion: Combining Similarity and Importance for Video Token Reduction on Large Vision Language Models
  di: Fu, Tianyu, et al.
  Pubblicazione: (2024)
• MBQ: Modality-Balanced Quantization for Large Vision-Language Models
  di: Li, Shiyao, et al.
  Pubblicazione: (2024)
• A Survey on Efficient Inference for Large Language Models
  di: Zhou, Zixuan, et al.
  Pubblicazione: (2024)
• PM-KVQ: Progressive Mixed-precision KV Cache Quantization for Long-CoT LLMs
  di: Liu, Tengxuan, et al.
  Pubblicazione: (2025)