Stability Implies Redundancy: Delta Attention Selective Halting for Efficient Long-Context Prefilling

Documenti analoghi

• VSPrefill: Vertical-Slash Sparse Attention with Lightweight Indexing for Long-Context Prefilling
  di: Guanzhong, Chen
  Pubblicazione: (2026)
• FlashPrefill: Instantaneous Pattern Discovery and Thresholding for Ultra-Fast Long-Context Prefilling
  di: Fan, Qihang, et al.
  Pubblicazione: (2026)
• Block-Attention for Efficient Prefilling
  di: Ma, Dongyang, et al.
  Pubblicazione: (2024)
• SALE : Low-bit Estimation for Efficient Sparse Attention in Long-context LLM Prefilling
  di: Ji, Xiaodong, et al.
  Pubblicazione: (2025)
• Shallow Prefill, Deep Decoding: Efficient Long-Context Inference via Layer-Asymmetric KV Visibility
  di: Oh, Jungsuk, et al.
  Pubblicazione: (2026)