What needs to go right for an induction head? A mechanistic study of in-context learning circuits and their formation

Ähnliche Einträge

• Strategy Coopetition Explains the Emergence and Transience of In-Context Learning
  von: Singh, Aaditya K., et al.
  Veröffentlicht: (2025)
• Softmax $\geq$ Linear: Transformers may learn to classify in-context by kernel gradient descent
  von: Dragutinović, Sara, et al.
  Veröffentlicht: (2025)
• The broader spectrum of in-context learning
  von: Lampinen, Andrew Kyle, et al.
  Veröffentlicht: (2024)
• HARP: A challenging human-annotated math reasoning benchmark
  von: Yue, Albert S., et al.
  Veröffentlicht: (2024)
• Training Dynamics of In-Context Learning in Linear Attention
  von: Zhang, Yedi, et al.
  Veröffentlicht: (2025)