A Little Goes a Long Way: Efficient Long Context Training and Inference with Partial Contexts

Documenti analoghi

• S2-Attention: Hardware-Aware Context Sharding Among Attention Heads
  di: Lin, Xihui, et al.
  Pubblicazione: (2024)
• A Little Confidence Goes a Long Way
  di: Scoville, John, et al.
  Pubblicazione: (2024)
• A Little Help Goes a Long Way: Efficient LLM Training by Leveraging Small LMs
  di: Rawat, Ankit Singh, et al.
  Pubblicazione: (2024)
• A Little Human Data Goes A Long Way
  di: Ashok, Dhananjay, et al.
  Pubblicazione: (2024)
• HyLRA: Hybrid Layer Reuse Attention for Efficient Long-Context Inference
  di: Ai, Xuan, et al.
  Pubblicazione: (2026)