To Grok Grokking: Provable Grokking in Ridge Regression
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Xu, Mingyue, Vardi, Gal, Safran, Itay |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Provable Privacy Attacks on Trained Shallow Neural Networks
par: Smorodinsky, Guy, et autres
Publié: (2024)
par: Smorodinsky, Guy, et autres
Publié: (2024)
GrokAlign: Geometric Characterisation and Acceleration of Grokking
par: Walker, Thomas, et autres
Publié: (2025)
par: Walker, Thomas, et autres
Publié: (2025)
NeuralGrok: Accelerate Grokking by Neural Gradient Transformation
par: Zhou, Xinyu, et autres
Publié: (2025)
par: Zhou, Xinyu, et autres
Publié: (2025)
Why Do You Grok? A Theoretical Analysis of Grokking Modular Addition
par: Mohamadi, Mohamad Amin, et autres
Publié: (2024)
par: Mohamadi, Mohamad Amin, et autres
Publié: (2024)
Grokking in Linear Estimators -- A Solvable Model that Groks without Understanding
par: Levi, Noam, et autres
Publié: (2023)
par: Levi, Noam, et autres
Publié: (2023)
Let Me Grok for You: Accelerating Grokking via Embedding Transfer from a Weaker Model
par: Xu, Zhiwei, et autres
Publié: (2025)
par: Xu, Zhiwei, et autres
Publié: (2025)
Grokking in Linear Models for Logistic Regression
par: Das, Nataraj, et autres
Publié: (2026)
par: Das, Nataraj, et autres
Publié: (2026)
The Complexity Dynamics of Grokking
par: DeMoss, Branton, et autres
Publié: (2024)
par: DeMoss, Branton, et autres
Publié: (2024)
Measuring Sharpness in Grokking
par: Miller, Jack, et autres
Publié: (2024)
par: Miller, Jack, et autres
Publié: (2024)
Bridging Lottery Ticket and Grokking: Understanding Grokking from Inner Structure of Networks
par: Minegishi, Gouki, et autres
Publié: (2023)
par: Minegishi, Gouki, et autres
Publié: (2023)
A Depth Hierarchy for Computing the Maximum in ReLU Networks via Extremal Graph Theory
par: Safran, Itay
Publié: (2026)
par: Safran, Itay
Publié: (2026)
Provable Scaling Laws of Feature Emergence from Learning Dynamics of Grokking
par: Tian, Yuandong
Publié: (2025)
par: Tian, Yuandong
Publié: (2025)
Topological Signatures of Grokking
par: Tang, Yifan, et autres
Publié: (2026)
par: Tang, Yifan, et autres
Publié: (2026)
Grokked Models are Better Unlearners
par: Liang, Yuanbang, et autres
Publié: (2025)
par: Liang, Yuanbang, et autres
Publié: (2025)
An Agnostic View on the Cost of Overfitting in (Kernel) Ridge Regression
par: Zhou, Lijia, et autres
Publié: (2023)
par: Zhou, Lijia, et autres
Publié: (2023)
Dichotomy of Early and Late Phase Implicit Biases Can Provably Induce Grokking
par: Lyu, Kaifeng, et autres
Publié: (2023)
par: Lyu, Kaifeng, et autres
Publié: (2023)
Provable Tempered Overfitting of Minimal Nets and Typical Nets
par: Harel, Itamar, et autres
Publié: (2024)
par: Harel, Itamar, et autres
Publié: (2024)
ILDR: Geometric Early Detection of Grokking
par: Golwala, Shreel
Publié: (2026)
par: Golwala, Shreel
Publié: (2026)
Exploring Grokking: Experimental and Mechanistic Investigations
par: Qiye, Hu, et autres
Publié: (2024)
par: Qiye, Hu, et autres
Publié: (2024)
Grokking Finite-Dimensional Algebra
par: Notsawo, Pascal Jr Tikeng, et autres
Publié: (2026)
par: Notsawo, Pascal Jr Tikeng, et autres
Publié: (2026)
Grokking Group Multiplication with Cosets
par: Stander, Dashiell, et autres
Publié: (2023)
par: Stander, Dashiell, et autres
Publié: (2023)
Muon Optimizer Accelerates Grokking
par: Tveit, Amund, et autres
Publié: (2025)
par: Tveit, Amund, et autres
Publié: (2025)
Low-Dimensional and Transversely Curved Optimization Dynamics in Grokking
par: Xu, Yongzhong
Publié: (2026)
par: Xu, Yongzhong
Publié: (2026)
Grokking Explained: A Statistical Phenomenon
par: Carvalho, Breno W., et autres
Publié: (2025)
par: Carvalho, Breno W., et autres
Publié: (2025)
Controlling Grokking with Nonlinearity and Data Symmetry
par: Salah, Ahmed, et autres
Publié: (2024)
par: Salah, Ahmed, et autres
Publié: (2024)
Distributional Spectral Diagnostics for Localizing Grokking Transitions
par: Wang, Ziyue, et autres
Publié: (2026)
par: Wang, Ziyue, et autres
Publié: (2026)
Grokking Modular Polynomials
par: Doshi, Darshil, et autres
Publié: (2024)
par: Doshi, Darshil, et autres
Publié: (2024)
Grokking at the Edge of Linear Separability
par: Beck, Alon, et autres
Publié: (2024)
par: Beck, Alon, et autres
Publié: (2024)
Grokking at the Edge of Numerical Stability
par: Prieto, Lucas, et autres
Publié: (2025)
par: Prieto, Lucas, et autres
Publié: (2025)
Early-Warning Signals of Grokking via Loss-Landscape Geometry
par: Xu, Yongzhong
Publié: (2026)
par: Xu, Yongzhong
Publié: (2026)
Is Grokking a Computational Glass Relaxation?
par: Zhang, Xiaotian, et autres
Publié: (2025)
par: Zhang, Xiaotian, et autres
Publié: (2025)
Grokfast: Accelerated Grokking by Amplifying Slow Gradients
par: Lee, Jaerin, et autres
Publié: (2024)
par: Lee, Jaerin, et autres
Publié: (2024)
Mechanistic Insights into Grokking from the Embedding Layer
par: AlquBoj, H. V., et autres
Publié: (2025)
par: AlquBoj, H. V., et autres
Publié: (2025)
Understanding Grokking Through A Robustness Viewpoint
par: Tan, Zhiquan, et autres
Publié: (2023)
par: Tan, Zhiquan, et autres
Publié: (2023)
Progress Measures for Grokking on Real-world Tasks
par: Golechha, Satvik
Publié: (2024)
par: Golechha, Satvik
Publié: (2024)
Grokking of Diffusion Models: Case Study on Modular Addition
par: Kim, Joon Hyeok, et autres
Publié: (2026)
par: Kim, Joon Hyeok, et autres
Publié: (2026)
Explaining Grokking in Transformers through the Lens of Inductive Bias
par: Singh, Jaisidh, et autres
Publié: (2026)
par: Singh, Jaisidh, et autres
Publié: (2026)
Beyond Progress Measures: Theoretical Insights into the Mechanism of Grokking
par: Gu, Zihan, et autres
Publié: (2025)
par: Gu, Zihan, et autres
Publié: (2025)
Grokking as a Falsifiable Finite-Size Transition
par: Bi, Yuda, et autres
Publié: (2026)
par: Bi, Yuda, et autres
Publié: (2026)
Explaining Grokking and Information Bottleneck through Neural Collapse Emergence
par: Sakamoto, Keitaro, et autres
Publié: (2025)
par: Sakamoto, Keitaro, et autres
Publié: (2025)
Documents similaires
-
Provable Privacy Attacks on Trained Shallow Neural Networks
par: Smorodinsky, Guy, et autres
Publié: (2024) -
GrokAlign: Geometric Characterisation and Acceleration of Grokking
par: Walker, Thomas, et autres
Publié: (2025) -
NeuralGrok: Accelerate Grokking by Neural Gradient Transformation
par: Zhou, Xinyu, et autres
Publié: (2025) -
Why Do You Grok? A Theoretical Analysis of Grokking Modular Addition
par: Mohamadi, Mohamad Amin, et autres
Publié: (2024) -
Grokking in Linear Estimators -- A Solvable Model that Groks without Understanding
par: Levi, Noam, et autres
Publié: (2023)