A Framework for Quantifying How Pre-Training and Context Benefit In-Context Learning

Ähnliche Einträge

• Aligning Frozen LLMs by Reinforcement Learning: An Iterative Reweight-then-Optimize Approach
  von: Zhang, Xinnan, et al.
  Veröffentlicht: (2025)
• Generative Pre-Trained Transformer for Symbolic Regression Base In-Context Reinforcement Learning
  von: Li, Yanjie, et al.
  Veröffentlicht: (2024)
• Memory-Efficient LLM Pretraining via Minimalist Optimizer Design
  von: Glentis, Athanasios, et al.
  Veröffentlicht: (2025)
• Hierarchical Context Merging: Better Long Context Understanding for Pre-trained LLMs
  von: Song, Woomin, et al.
  Veröffentlicht: (2024)
• How Transformers Learn In-Context Recall Tasks? Optimality, Training Dynamics and Generalization
  von: Nguyen, Quan, et al.
  Veröffentlicht: (2025)