Implicit Regularization in Perturbed Deep Matrix Factorization: Spectral Conditions and Stability
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Wang, Jingzhe, Chou, Hung-Hsu |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Robust Implicit Regularization via Weight Normalization
par: Chou, Hung-Hsu, et autres
Publié: (2023)
par: Chou, Hung-Hsu, et autres
Publié: (2023)
Implicit Regularization Makes Overparameterized Asymmetric Matrix Sensing Robust to Perturbations
par: Wind, Johan S.
Publié: (2023)
par: Wind, Johan S.
Publié: (2023)
Improving Generalization and Convergence by Enhancing Implicit Regularization
par: Wang, Mingze, et autres
Publié: (2024)
par: Wang, Mingze, et autres
Publié: (2024)
Implicit Bias in Matrix Factorization and its Explicit Realization in a New Architecture
par: Hou, Yikun, et autres
Publié: (2025)
par: Hou, Yikun, et autres
Publié: (2025)
Sharpness of Minima in Deep Matrix Factorization
par: Kamber, Anil, et autres
Publié: (2025)
par: Kamber, Anil, et autres
Publié: (2025)
More is Less: Inducing Sparsity via Overparameterization
par: Chou, Hung-Hsu, et autres
Publié: (2021)
par: Chou, Hung-Hsu, et autres
Publié: (2021)
Implicit Regularization for Tubal Tensor Factorizations via Gradient Descent
par: Karnik, Santhosh, et autres
Publié: (2024)
par: Karnik, Santhosh, et autres
Publié: (2024)
Implicit Bias and Convergence of Matrix Stochastic Mirror Descent
par: Akhtiamov, Danil, et autres
Publié: (2026)
par: Akhtiamov, Danil, et autres
Publié: (2026)
Understanding the Implicit Regularization of Gradient Descent in Over-parameterized Models
par: Ma, Jianhao, et autres
Publié: (2025)
par: Ma, Jianhao, et autres
Publié: (2025)
(Almost) Smooth Sailing: Towards Numerical Stability of Neural Networks Through Differentiable Regularization of the Condition Number
par: Nenov, Rossen, et autres
Publié: (2024)
par: Nenov, Rossen, et autres
Publié: (2024)
Stability Regularized Cross-Validation
par: Cory-Wright, Ryan, et autres
Publié: (2025)
par: Cory-Wright, Ryan, et autres
Publié: (2025)
Stability Evaluation via Distributional Perturbation Analysis
par: Blanchet, Jose, et autres
Publié: (2024)
par: Blanchet, Jose, et autres
Publié: (2024)
Implicit Bias of Spectral Descent and Muon on Multiclass Separable Data
par: Fan, Chen, et autres
Publié: (2025)
par: Fan, Chen, et autres
Publié: (2025)
How Neural Networks Learn the Support is an Implicit Regularization Effect of SGD
par: Beneventano, Pierfrancesco, et autres
Publié: (2024)
par: Beneventano, Pierfrancesco, et autres
Publié: (2024)
The Implicit Bias of Heterogeneity towards Invariance: A Study of Multi-Environment Matrix Sensing
par: Xu, Yang, et autres
Publié: (2024)
par: Xu, Yang, et autres
Publié: (2024)
Sparse Deep Learning Models with the $\ell_1$ Regularization
par: Shen, Lixin, et autres
Publié: (2024)
par: Shen, Lixin, et autres
Publié: (2024)
Stability of Data-Dependent Ridge-Regularization for Inverse Problems
par: Neumayer, Sebastian, et autres
Publié: (2024)
par: Neumayer, Sebastian, et autres
Publié: (2024)
Implicit Regularization of Gradient Flow on One-Layer Softmax Attention
par: Sheen, Heejune, et autres
Publié: (2024)
par: Sheen, Heejune, et autres
Publié: (2024)
Implicit Bias of Gradient Descent for Non-Homogeneous Deep Networks
par: Cai, Yuhang, et autres
Publié: (2025)
par: Cai, Yuhang, et autres
Publié: (2025)
Sum-of-norms regularized Nonnegative Matrix Factorization
par: Ang, Andersen, et autres
Publié: (2024)
par: Ang, Andersen, et autres
Publié: (2024)
Convergence of Alternating Gradient Descent for Matrix Factorization
par: Ward, Rachel, et autres
Publié: (2023)
par: Ward, Rachel, et autres
Publié: (2023)
Fast and Effective Computation of Generalized Symmetric Matrix Factorization
par: Yang, Lei, et autres
Publié: (2026)
par: Yang, Lei, et autres
Publié: (2026)
Gradient Clipping Beyond Vector Norms: A Spectral Approach for Matrix-Valued Parameters
par: Yukhimchuk, Alexander, et autres
Publié: (2026)
par: Yukhimchuk, Alexander, et autres
Publié: (2026)
Provable Acceleration of Nesterov's Accelerated Gradient for Rectangular Matrix Factorization and Linear Neural Networks
par: Xu, Zhenghao, et autres
Publié: (2024)
par: Xu, Zhenghao, et autres
Publié: (2024)
A Second-Order Majorant Algorithm for Nonnegative Matrix Factorization
par: Pham, Mai-Quyen, et autres
Publié: (2023)
par: Pham, Mai-Quyen, et autres
Publié: (2023)
Preconditioned Gradient Descent for Over-Parameterized Nonconvex Matrix Factorization
par: Zhang, Gavin, et autres
Publié: (2025)
par: Zhang, Gavin, et autres
Publié: (2025)
Majorization-minimization for Sparse Nonnegative Matrix Factorization with the $β$-divergence
par: Marmin, Arthur, et autres
Publié: (2022)
par: Marmin, Arthur, et autres
Publié: (2022)
Efficient algorithms for regularized Poisson Non-negative Matrix Factorization
par: Perraudin, Nathanaël, et autres
Publié: (2024)
par: Perraudin, Nathanaël, et autres
Publié: (2024)
Enhancing Accuracy in Deep Learning Using Random Matrix Theory
par: Berlyand, Leonid, et autres
Publié: (2023)
par: Berlyand, Leonid, et autres
Publié: (2023)
DLMMPR:Deep Learning-based Measurement Matrix for Phase Retrieval
par: Liu, Jing, et autres
Publié: (2025)
par: Liu, Jing, et autres
Publié: (2025)
Formal Safety Verification and Refinement for Generative Motion Planners via Certified Local Stabilization
par: Nath, Devesh, et autres
Publié: (2025)
par: Nath, Devesh, et autres
Publié: (2025)
Global Convergence of Four-Layer Matrix Factorization under Random Initialization
par: Luo, Minrui, et autres
Publié: (2025)
par: Luo, Minrui, et autres
Publié: (2025)
Regularized Gradient Clipping Provably Trains Wide and Deep Neural Networks
par: Tucat, Matteo, et autres
Publié: (2024)
par: Tucat, Matteo, et autres
Publié: (2024)
Cauchy-Schwarz Regularizers
par: Taner, Sueda, et autres
Publié: (2025)
par: Taner, Sueda, et autres
Publié: (2025)
A Complete Loss Landscape Analysis of Regularized Deep Matrix Factorization
par: Chen, Po, et autres
Publié: (2025)
par: Chen, Po, et autres
Publié: (2025)
Sparse Hyperparametric Itakura-Saito Nonnegative Matrix Factorization via Bi-Level Optimization
par: Selicato, Laura, et autres
Publié: (2025)
par: Selicato, Laura, et autres
Publié: (2025)
Towards a Principled Muon under $μ\mathsf{P}$: Ensuring Spectral Conditions throughout Training
par: Zhao, John
Publié: (2026)
par: Zhao, John
Publié: (2026)
Controlling the Flow: Stability and Convergence for Stochastic Gradient Descent with Decaying Regularization
par: Kassing, Sebastian, et autres
Publié: (2025)
par: Kassing, Sebastian, et autres
Publié: (2025)
Regularization for Adversarial Robust Learning
par: Wang, Jie, et autres
Publié: (2024)
par: Wang, Jie, et autres
Publié: (2024)
On the Crucial Role of Initialization for Matrix Factorization
par: Li, Bingcong, et autres
Publié: (2024)
par: Li, Bingcong, et autres
Publié: (2024)
Documents similaires
-
Robust Implicit Regularization via Weight Normalization
par: Chou, Hung-Hsu, et autres
Publié: (2023) -
Implicit Regularization Makes Overparameterized Asymmetric Matrix Sensing Robust to Perturbations
par: Wind, Johan S.
Publié: (2023) -
Improving Generalization and Convergence by Enhancing Implicit Regularization
par: Wang, Mingze, et autres
Publié: (2024) -
Implicit Bias in Matrix Factorization and its Explicit Realization in a New Architecture
par: Hou, Yikun, et autres
Publié: (2025) -
Sharpness of Minima in Deep Matrix Factorization
par: Kamber, Anil, et autres
Publié: (2025)