Buchumschlag

Rethinking Benign Overfitting in Two-Layer Neural Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Xu, Ruichen, Chen, Kexin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Differential Privacy in Two-Layer Networks: How DP-SGD Harms Fairness and Robustness
von: Xu, Ruichen, et al.
Veröffentlicht: (2026)

Benign Overfitting for Regression with Trained Two-Layer ReLU Networks
von: Park, Junhyung, et al.
Veröffentlicht: (2024)

Provable Knowledge Acquisition and Extraction in One-Layer Transformers
von: Xu, Ruichen, et al.
Veröffentlicht: (2025)

Initialization Matters: On the Benign Overfitting of Two-Layer ReLU CNN with Fully Trainable Layers
von: Shang, Shuning, et al.
Veröffentlicht: (2024)

From Tempered to Benign Overfitting in ReLU Neural Networks
von: Kornowski, Guy, et al.
Veröffentlicht: (2023)

Benign Overfitting in Single-Head Attention
von: Magen, Roey, et al.
Veröffentlicht: (2024)

Benign Overfitting with Quantum Kernels
von: Tomasi, Joachim, et al.
Veröffentlicht: (2025)

Benign Overfitting in Token Selection of Attention Mechanism
von: Sakamoto, Keitaro, et al.
Veröffentlicht: (2024)

Benign Overfitting in Linear Classifiers with a Bias Term
von: Kondo, Yuta
Veröffentlicht: (2025)

Provable Weak-to-Strong Generalization via Benign Overfitting
von: Wu, David X., et al.
Veröffentlicht: (2024)

Benign Overfitting in Out-of-Distribution Generalization of Linear Models
von: Tang, Shange, et al.
Veröffentlicht: (2024)

Beyond Benign Overfitting in Nadaraya-Watson Interpolators
von: Barzilai, Daniel, et al.
Veröffentlicht: (2025)

Benign Overfitting in Adversarial Training for Vision Transformers
von: Zhang, Jiaming, et al.
Veröffentlicht: (2026)

The Surprising Harmfulness of Benign Overfitting for Adversarial Robustness
von: Hao, Yifan, et al.
Veröffentlicht: (2024)

Benign Overfitting without Linearity: Neural Network Classifiers Trained by Gradient Descent for Noisy Linear Data
von: Frei, Spencer, et al.
Veröffentlicht: (2022)

Benign Overfitting and the Geometry of the Ridge Regression Solution in Binary Classification
von: Tsigler, Alexander, et al.
Veröffentlicht: (2025)

Trained Transformer Classifiers Generalize and Exhibit Benign Overfitting In-Context
von: Frei, Spencer, et al.
Veröffentlicht: (2024)

Dynamical Decoupling of Generalization and Overfitting in Large Two-Layer Networks
von: Montanari, Andrea, et al.
Veröffentlicht: (2025)

Universality of Benign Overfitting in Binary Linear Classification
von: Hashimoto, Ichiro, et al.
Veröffentlicht: (2025)

Directional Convergence, Benign Overfitting of Gradient Descent in leaky ReLU two-layer Neural Networks
von: Hashimoto, Ichiro
Veröffentlicht: (2025)

A Classical View on Benign Overfitting: The Role of Sample Size
von: Park, Junhyung, et al.
Veröffentlicht: (2025)

Transfer Learning for Benign Overfitting in High-Dimensional Linear Regression
von: Kim, Yeichan, et al.
Veröffentlicht: (2025)

Learning Curves and Benign Overfitting of Spectral Algorithms in Large Dimensions
von: Lu, Weihao, et al.
Veröffentlicht: (2026)

Benign Overfitting in Time Series Linear Models with Over-Parameterization
von: Nakakita, Shogo, et al.
Veröffentlicht: (2022)

Benign, Tempered, or Catastrophic: A Taxonomy of Overfitting
von: Mallinar, Neil, et al.
Veröffentlicht: (2022)

On Local Overfitting and Forgetting in Deep Neural Networks
von: Stern, Uri, et al.
Veröffentlicht: (2024)

Understanding Generalization in Transformers: Error Bounds and Training Dynamics Under Benign and Harmful Overfitting
von: Zhang, Yingying, et al.
Veröffentlicht: (2025)

Risk Phase Transitions in Spiked Regression: Alignment Driven Benign and Catastrophic Overfitting
von: Li, Jiping, et al.
Veröffentlicht: (2025)

Benign Overfitting under Learning Rate Conditions for $α$ Sub-exponential Input
von: Okudo, Kota, et al.
Veröffentlicht: (2024)

Unveil Benign Overfitting for Transformer in Vision: Training Dynamics, Convergence, and Generalization
von: Jiang, Jiarui, et al.
Veröffentlicht: (2024)

Spectral-Transport Stability and Benign Overfitting in Interpolating Learning
von: Fredriksson-Imanov, Gustav Olaf Yunus Laitinen-Lundström
Veröffentlicht: (2026)

When Does $\ell_2$-Boosting Overfit Benignly? High-Dimensional Risk Asymptotics and the $\ell_1$ Implicit Bias
von: Su, Ye, et al.
Veröffentlicht: (2026)

From Overfitting to Reliability: Introducing the Hierarchical Approximate Bayesian Neural Network
von: Amirkhanian, Hayk, et al.
Veröffentlicht: (2025)

Mitigating Overfitting in Graph Neural Networks via Feature and Hyperplane Perturbation
von: Choi, Yoonhyuk, et al.
Veröffentlicht: (2022)

A Post-Training Approach for Mitigating Overfitting in Quantum Convolutional Neural Networks
von: Shinde, Aakash Ravindra, et al.
Veröffentlicht: (2023)

Testing for Overfitting
von: Schmidt, James
Veröffentlicht: (2023)

Layer-Aware Analysis of Catastrophic Overfitting: Revealing the Pseudo-Robust Shortcut Dependency
von: Lin, Runqi, et al.
Veröffentlicht: (2024)

Rethinking Benign Relearning: Syntax as the Hidden Driver of Unlearning Failures
von: Yoon, Sangyeon, et al.
Veröffentlicht: (2026)

Data Mining in Transportation Networks with Graph Neural Networks: A Review and Outlook
von: Xue, Jiawei, et al.
Veröffentlicht: (2025)

Deep Exploration of Epoch-wise Double Descent in Noisy Data: Signal Separation, Large Activation, and Benign Overfitting
von: Kubo, Tomoki, et al.
Veröffentlicht: (2026)