Buchumschlag

Efficient Over-parameterized Matrix Sensing from Noisy Measurements via Alternating Preconditioned Gradient Descent

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liu, Zhiyu, Han, Zhi, Tang, Yandong, Tang, Shaojie, Wang, Yao
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Efficient Low-Tubal-Rank Tensor Estimation via Alternating Preconditioned Gradient Descent
von: Liu, Zhiyu, et al.
Veröffentlicht: (2025)

Low-Tubal-Rank Tensor Recovery via Factorized Gradient Descent
von: Liu, Zhiyu, et al.
Veröffentlicht: (2024)

Preconditioned Gradient Descent for Over-Parameterized Nonconvex Matrix Factorization
von: Zhang, Gavin, et al.
Veröffentlicht: (2025)

Understanding the Implicit Regularization of Gradient Descent in Over-parameterized Models
von: Ma, Jianhao, et al.
Veröffentlicht: (2025)

Fast and Accurate Estimation of Low-Rank Matrices from Noisy Measurements via Preconditioned Non-Convex Gradient Descent
von: Zhang, Gavin, et al.
Veröffentlicht: (2023)

Convergence of Alternating Gradient Descent for Matrix Factorization
von: Ward, Rachel, et al.
Veröffentlicht: (2023)

Mirror and Preconditioned Gradient Descent in Wasserstein Space
von: Bonet, Clément, et al.
Veröffentlicht: (2024)

Adaptive Step Sizes for Preconditioned Stochastic Gradient Descent
von: Köhne, Frederik, et al.
Veröffentlicht: (2023)

The power of small initialization in noisy low-tubal-rank tensor recovery
von: Liu, ZHiyu, et al.
Veröffentlicht: (2026)

FastPart: Over-Parameterized Stochastic Gradient Descent for Sparse optimisation on Measures
von: De Castro, Yohann, et al.
Veröffentlicht: (2023)

Preconditioned Gradient Descent for Overparameterized Nonconvex Burer--Monteiro Factorization with Global Optimality Certification
von: Zhang, Gavin, et al.
Veröffentlicht: (2022)

Convergence of Gradient Descent with Small Initialization for Unregularized Matrix Completion
von: Ma, Jianhao, et al.
Veröffentlicht: (2024)

The Power of Preconditioning in Overparameterized Low-Rank Matrix Sensing
von: Xu, Xingyu, et al.
Veröffentlicht: (2023)

Stochastic Trust-Region Methods for Over-parameterized Models
von: Yang, Aike, et al.
Veröffentlicht: (2026)

PolarGrad: A Class of Matrix-Gradient Optimizers from a Unifying Preconditioning Perspective
von: Lau, Tim Tsz-Kit, et al.
Veröffentlicht: (2025)

A Validation Approach to Over-parameterized Matrix and Image Recovery
von: Ding, Lijun, et al.
Veröffentlicht: (2022)

A New Convergence Analysis of Plug-and-Play Proximal Gradient Descent Under Prior Mismatch
von: Xu, Guixian, et al.
Veröffentlicht: (2026)

Stochastic Gradient Methods with Preconditioned Updates
von: Sadiev, Abdurakhmon, et al.
Veröffentlicht: (2022)

Unraveling the Gradient Descent Dynamics of Transformers
von: Song, Bingqing, et al.
Veröffentlicht: (2024)

Improved Learning Rates for Stochastic Optimization
von: Li, Shaojie, et al.
Veröffentlicht: (2021)

On Penalty-based Bilevel Gradient Descent Method
von: Shen, Han, et al.
Veröffentlicht: (2023)

Guarantees of a Preconditioned Subgradient Algorithm for Overparameterized Asymmetric Low-rank Matrix Recovery
von: Giampouras, Paris, et al.
Veröffentlicht: (2024)

Stochastic Adaptive Gradient Descent Without Descent
von: Aujol, Jean-François, et al.
Veröffentlicht: (2025)

An Efficient Alternating Algorithm for ReLU-based Symmetric Matrix Decomposition
von: Wang, Qingsong
Veröffentlicht: (2025)

Corner Gradient Descent
von: Yarotsky, Dmitry
Veröffentlicht: (2025)

Parameter Symmetry and Noise Equilibrium of Stochastic Gradient Descent
von: Ziyin, Liu, et al.
Veröffentlicht: (2024)

Preconditioned Norms: A Unified Framework for Steepest Descent, Quasi-Newton and Adaptive Methods
von: Veprikov, Andrey, et al.
Veröffentlicht: (2025)

Parameter-free Clipped Gradient Descent Meets Polyak
von: Takezawa, Yuki, et al.
Veröffentlicht: (2024)

Adaptive Conditional Gradient Descent
von: Khademi, Abbas, et al.
Veröffentlicht: (2025)

$k$-SVD with Gradient Descent
von: Jedra, Yassir, et al.
Veröffentlicht: (2025)

Anytime Acceleration of Gradient Descent
von: Zhang, Zihan, et al.
Veröffentlicht: (2024)

Gradient Descent with Polyak's Momentum Finds Flatter Minima via Large Catapults
von: Phunyaphibarn, Prin, et al.
Veröffentlicht: (2023)

AGD: an Auto-switchable Optimizer using Stepwise Gradient Difference for Preconditioning Matrix
von: Yue, Yun, et al.
Veröffentlicht: (2023)

DoWG Unleashed: An Efficient Universal Parameter-Free Gradient Descent Method
von: Khaled, Ahmed, et al.
Veröffentlicht: (2023)

Stochastic Gradient Descent with Adaptive Data
von: Che, Ethan, et al.
Veröffentlicht: (2024)

Stochastic Gradient Descent with Strategic Querying
von: Jiang, Nanfei, et al.
Veröffentlicht: (2025)

A Single-Loop Smoothed Gradient Descent-Ascent Algorithm for Nonconvex-Concave Min-Max Problems
von: Zhang, Jiawei, et al.
Veröffentlicht: (2020)

Learning Provably Improves the Convergence of Gradient Descent
von: Song, Qingyu, et al.
Veröffentlicht: (2025)

Enhancing Fractional Gradient Descent with Learned Optimizers
von: Sobotka, Jan, et al.
Veröffentlicht: (2025)

Derivatives of Stochastic Gradient Descent in parametric optimization
von: Iutzeler, Franck, et al.
Veröffentlicht: (2024)