Global Convergence and Rich Feature Learning in $L$-Layer Infinite-Width Neural Networks under $μ$P Parametrization

Ähnliche Einträge

• Homotopy Relaxation Training Algorithms for Infinite-Width Two-Layer ReLU Neural Networks
  von: Yang, Yahong, et al.
  Veröffentlicht: (2023)
• Matching the Statistical Query Lower Bound for $k$-Sparse Parity Problems with Sign Stochastic Gradient Descent
  von: Kou, Yiwen, et al.
  Veröffentlicht: (2024)
• A Dual Certificate Approach to Sparsity in Infinite-Width Shallow Neural Networks
  von: Del Grande, Leonardo, et al.
  Veröffentlicht: (2026)
• On the Convergence of Adaptive Gradient Methods for Nonconvex Optimization
  von: Zhou, Dongruo, et al.
  Veröffentlicht: (2018)
• Unified Convergence Analysis for Score-Based Diffusion Models with Deterministic Samplers
  von: Li, Runjia, et al.
  Veröffentlicht: (2024)