Buchumschlag

Linear regression with overparameterized linear neural networks: Tight upper and lower bounds for implicit $\ell^1$-regularization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Matt, Hannes, Stöger, Dominik
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Information Theory Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Non-convex matrix sensing: Breaking the quadratic rank barrier in the sample complexity
von: Stöger, Dominik, et al.
Veröffentlicht: (2024)

Tight Regret Bounds for Bayesian Optimization in One Dimension
von: Scarlett, Jonathan
Veröffentlicht: (2018)

Local linear convergence of gradient methods for overparameterized Gaussian mixtures
von: Wang, Jingxing, et al.
Veröffentlicht: (2026)

Is Q-Learning Minimax Optimal? A Tight Sample Complexity Analysis
von: Li, Gen, et al.
Veröffentlicht: (2021)

The augmented NLP bound for maximum-entropy remote sampling
von: Ponte, Gabriel, et al.
Veröffentlicht: (2026)

A Single-Loop First-Order Algorithm for Linearly Constrained Bilevel Optimization
von: Shen, Wei, et al.
Veröffentlicht: (2025)

High-probability sample complexities for policy evaluation with linear function approximation
von: Li, Gen, et al.
Veröffentlicht: (2023)

Convergence of linear programming hierarchies for Gibbs states of spin systems
von: Fawzi, Hamza, et al.
Veröffentlicht: (2025)

Exact objectives of random linear programs and mean widths of random polyhedrons
von: Stojnic, Mihailo
Veröffentlicht: (2024)

PtyGenography: using generative models for regularization of the phase retrieval problem
von: Aslan, Selin, et al.
Veröffentlicht: (2025)

Semidefinite lower bounds for covering codes
von: Gijswijt, Dion, et al.
Veröffentlicht: (2025)

An L-BFGS-B approach for linear and nonlinear system identification under $\ell_1$ and group-Lasso regularization
von: Bemporad, Alberto
Veröffentlicht: (2024)

Finite-Time Minimax Bounds and an Optimal Lyapunov Policy in Queueing Control
von: Liu, Yujie, et al.
Veröffentlicht: (2025)

A Neural Network Algorithm for KL Divergence Estimation with Quantitative Error Bounds
von: Foss, Mikil, et al.
Veröffentlicht: (2025)

A Dual Basis Approach for Structured Robust Euclidean Distance Geometry
von: Kundu, Chandra, et al.
Veröffentlicht: (2025)

Span-Agnostic Optimal Sample Complexity and Oracle Inequalities for Average-Reward RL
von: Zurek, Matthew, et al.
Veröffentlicht: (2025)

On the Convergence Analysis of Muon
von: Shen, Wei, et al.
Veröffentlicht: (2025)

Optimal Single-Policy Sample Complexity and Transient Coverage for Average-Reward Offline RL
von: Zurek, Matthew, et al.
Veröffentlicht: (2025)

MLorc: Momentum Low-rank Compression for Memory Efficient Large Language Model Adaptation
von: Shen, Wei, et al.
Veröffentlicht: (2025)

Convexity in Disguise: A Theoretical Framework for Nonconvex Low-Rank Matrix Estimation
von: Cui, Chengyu, et al.
Veröffentlicht: (2026)

Recovering Simultaneously Structured Data via Non-Convex Iteratively Reweighted Least Squares
von: Kümmerle, Christian, et al.
Veröffentlicht: (2023)

Generalized Orthogonal Procrustes Problem under Arbitrary Adversaries
von: Ling, Shuyang
Veröffentlicht: (2021)

On the Robustness of Cross-Concentrated Sampling for Matrix Completion
von: Cai, HanQin, et al.
Veröffentlicht: (2024)

Span-Based Optimal Sample Complexity for Weakly Communicating and General Average Reward MDPs
von: Zurek, Matthew, et al.
Veröffentlicht: (2024)

Optimal Variance-Dependent Regret Bounds for Infinite-Horizon MDPs
von: Zamir, Guy, et al.
Veröffentlicht: (2026)

Stochastic Zeroth-Order Optimization under Strongly Convexity and Lipschitz Hessian: Minimax Sample Complexity
von: Yu, Qian, et al.
Veröffentlicht: (2024)

Stochastic Smoothed Gradient Descent Ascent for Federated Minimax Optimization
von: Shen, Wei, et al.
Veröffentlicht: (2023)

The Plug-in Approach for Average-Reward and Discounted MDPs: Optimal Sample Complexity Analysis
von: Zurek, Matthew, et al.
Veröffentlicht: (2024)

Variational Inference on the Boolean Hypercube with the Quantum Entropy
von: Beyler, Eliot, et al.
Veröffentlicht: (2024)

Span-Based Optimal Sample Complexity for Average Reward MDPs
von: Zurek, Matthew, et al.
Veröffentlicht: (2023)

Structured Sampling for Robust Euclidean Distance Geometry
von: Kundu, Chandra, et al.
Veröffentlicht: (2024)

More is Less: Inducing Sparsity via Overparameterization
von: Chou, Hung-Hsu, et al.
Veröffentlicht: (2021)

Adversarial Water-Filling: Theory, Algorithms and Foundation Model
von: Tong, Xindi, et al.
Veröffentlicht: (2026)

Group Projected Subspace Pursuit for Block Sparse Signal Reconstruction: Convergence Analysis and Applications
von: He, Roy Y., et al.
Veröffentlicht: (2024)

Geometry, Computation, and Optimality in Stochastic Optimization
von: Cheng, Chen, et al.
Veröffentlicht: (2019)

Wasserstein Distributionally Robust Estimation in High Dimensions: Performance Analysis and Optimal Hyperparameter Tuning
von: Aolaritei, Liviu, et al.
Veröffentlicht: (2022)

Closed-form $\ell_r$ norm scaling with data for overparameterized linear regression and diagonal linear networks under $\ell_p$ bias
von: Zhang, Shuofeng, et al.
Veröffentlicht: (2025)

Taming "data-hungry" reinforcement learning? Stability in continuous state-action spaces
von: Duan, Yaqi, et al.
Veröffentlicht: (2024)

How to induce regularization in linear models: A guide to reparametrizing gradient flow
von: Chou, Hung-Hsu, et al.
Veröffentlicht: (2023)

Long-time dynamics and universality of nonconvex gradient descent
von: Han, Qiyang
Veröffentlicht: (2025)