Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference

Documenti analoghi

• CachePrune: Privacy-Aware and Fine-Grained KV Cache Sharing for Efficient LLM Inference
  di: Wu, Guanlong, et al.
  Pubblicazione: (2026)
• Selective KV-Cache Sharing to Mitigate Timing Side-Channels in LLM Inference
  di: Chu, Kexin, et al.
  Pubblicazione: (2025)
• MPCache: MPC-Friendly KV Cache Eviction for Efficient Private LLM Inference
  di: Zeng, Wenxuan, et al.
  Pubblicazione: (2025)
• Membership Inference Attacks Against Vision-Language Models
  di: Hu, Yuke, et al.
  Pubblicazione: (2025)
• CacheSquash: Making caches speculation-aware
  di: ElAtali, Hossam, et al.
  Pubblicazione: (2024)