Data Repetition Beats Data Scaling in Long-CoT Supervised Fine-Tuning

Documenti analoghi

• Bitune: Leveraging Bidirectional Attention to Improve Decoder-Only LLMs
  di: Kopiczko, Dawid J., et al.
  Pubblicazione: (2024)
• VeRA: Vector-based Random Matrix Adaptation
  di: Kopiczko, Dawid J., et al.
  Pubblicazione: (2023)
• What Layers When: Learning to Skip Compute in LLMs with Residual Gates
  di: Laitenberger, Filipe, et al.
  Pubblicazione: (2025)
• Think Big, Generate Quick: LLM-to-SLM for Fast Autoregressive Decoding
  di: Bergner, Benjamin, et al.
  Pubblicazione: (2024)
• The LLM Surgeon
  di: van der Ouderaa, Tycho F. A., et al.
  Pubblicazione: (2023)