Buchumschlag

Dropout Regularization Versus $\ell_2$-Penalization in the Linear Model

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Clara, Gabriel, Langer, Sophie, Schmidt-Hieber, Johannes
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Statistics Theory Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Training Diagonal Linear Networks with Stochastic Sharpness-Aware Minimization
von: Clara, Gabriel, et al.
Veröffentlicht: (2025)

Asymptotics of Stochastic Gradient Descent with Dropout Regularization in Linear Models
von: Li, Jiaqi, et al.
Veröffentlicht: (2024)

On the VC dimension of deep group convolutional neural networks
von: Sepliarskaia, Anna, et al.
Veröffentlicht: (2024)

Spike-timing-dependent Hebbian learning as noisy gradient descent
von: Dexheimer, Niklas, et al.
Veröffentlicht: (2025)

Hyper Input Convex Neural Networks for Shape Constrained Learning and Optimal Transport
von: Hundrieser, Shayan, et al.
Veröffentlicht: (2026)

Improving the Convergence Rates of Forward Gradient Descent with Repeated Sampling
von: Dexheimer, Niklas, et al.
Veröffentlicht: (2024)

A novel statistical approach to analyze image classification
von: Chen, Juntong, et al.
Veröffentlicht: (2022)

Dropout Drops Double Descent
von: Yang, Tian-Le, et al.
Veröffentlicht: (2023)

Understanding the Effect of GCN Convolutions in Regression Tasks
von: Chen, Juntong, et al.
Veröffentlicht: (2024)

Transformed $\ell_1$ Regularizations for Robust Principal Component Analysis: Toward a Fine-Grained Understanding
von: Zhao, Kun, et al.
Veröffentlicht: (2025)

Regularization can make diffusion models more efficient
von: Taheri, Mahsa, et al.
Veröffentlicht: (2025)

Local convergence rates of the nonparametric least squares estimator with applications to transfer learning
von: Schmidt-Hieber, Johannes, et al.
Veröffentlicht: (2022)

$\ell_1$-Regularized Generalized Least Squares
von: Nobari, Kaveh S., et al.
Veröffentlicht: (2024)

Provable Generalization Bounds for Deep Neural Networks with Momentum-Adaptive Gradient Dropout
von: Safder, Adeel
Veröffentlicht: (2025)

Closed-form $\ell_r$ norm scaling with data for overparameterized linear regression and diagonal linear networks under $\ell_p$ bias
von: Zhang, Shuofeng, et al.
Veröffentlicht: (2025)

Structural Effect and Spectral Enhancement of High-Dimensional Regularized Linear Discriminant Analysis
von: Zhang, Yonghan, et al.
Veröffentlicht: (2025)

Lasso Penalization for High-Dimensional Beta Regression Models: Computation, Analysis, and Inference
von: Ramezani, Niloofar, et al.
Veröffentlicht: (2025)

Ordinal Patterns Based Change Points Detection
von: Betken, Annika, et al.
Veröffentlicht: (2025)

A Unified Framework for Pattern Recovery in Penalized and Thresholded Estimation and its Geometry
von: Graczyk, Piotr, et al.
Veröffentlicht: (2023)

Spectrally-Corrected and Regularized QDA Classifier for Spiked Covariance Model
von: Luo, Wenya, et al.
Veröffentlicht: (2025)

Theoretical limits of descending $\ell_0$ sparse-regression ML algorithms
von: Stojnic, Mihailo
Veröffentlicht: (2024)

Regularized DeepIV with Model Selection
von: Li, Zihao, et al.
Veröffentlicht: (2024)

Linear Response Estimators for Singular Statistical Models
von: Elliott, Chris, et al.
Veröffentlicht: (2026)

Adaptive Refinement Protocols for Distributed Distribution Estimation under $\ell^p$-Losses
von: Yuan, Deheng, et al.
Veröffentlicht: (2024)

Self-Regularized Learning Methods
von: Schölpple, Max, et al.
Veröffentlicht: (2026)

Linear Convergence of Diffusion Models Under the Manifold Hypothesis
von: Potaptchik, Peter, et al.
Veröffentlicht: (2024)

Asymptotic Behavior of Adversarial Training Estimator under $\ell_\infty$-Perturbation
von: Xie, Yiling, et al.
Veröffentlicht: (2024)

Generative Modelling via Quantile Regression
von: Schmidt-Hieber, Johannes, et al.
Veröffentlicht: (2024)

Higher-Order Regularization Learning on Hypergraphs
von: Weihs, Adrien, et al.
Veröffentlicht: (2025)

Confidence Sequences for Generalized Linear Models via Regret Analysis
von: Clerico, Eugenio, et al.
Veröffentlicht: (2025)

Benign Overfitting in Time Series Linear Models with Over-Parameterization
von: Nakakita, Shogo, et al.
Veröffentlicht: (2022)

$L_2$-Regularized Empirical Risk Minimization Guarantees Small Smooth Calibration Error
von: Fujisawa, Masahiro, et al.
Veröffentlicht: (2025)

Double Descent: Understanding Linear Model Estimation of Nonidentifiable Parameters and a Model for Overfitting
von: Christensen, Ronald
Veröffentlicht: (2024)

Bagged Regularized $k$-Distances for Anomaly Detection
von: Cai, Yuchao, et al.
Veröffentlicht: (2023)

Implicit Regularization Paths of Weighted Neural Representations
von: Du, Jin-Hong, et al.
Veröffentlicht: (2024)

Optimal Ridge Regularization for Out-of-Distribution Prediction
von: Patil, Pratik, et al.
Veröffentlicht: (2024)

Precise Asymptotics of Bagging Regularized M-estimators
von: Koriyama, Takuya, et al.
Veröffentlicht: (2024)

BELIEF in Dependence: Leveraging Atomic Linearity in Data Bits for Rethinking Generalized Linear Models
von: Brown, Benjamin, et al.
Veröffentlicht: (2022)

On Linear Separability under Linear Compression with Applications to Hard Support Vector Machine
von: McVay, Paul, et al.
Veröffentlicht: (2022)

Precise Asymptotics for Spectral Methods in Mixed Generalized Linear Models
von: Zhang, Yihan, et al.
Veröffentlicht: (2022)