Buchumschlag

State-Dependent Lyapunov Method for Rank-1 Matrix Factorization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Moon, Jaehong
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Numerical Analysis Machine Learning Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Lyapunov Analysis For Monotonically Forward-Backward Accelerated Algorithms
von: Fu, Mingwei, et al.
Veröffentlicht: (2024)

Random Subspace Cubic-Regularization Methods, with Applications to Low-Rank Functions
von: Cartis, Coralia, et al.
Veröffentlicht: (2025)

Online Covariance Matrix Estimation in Sketched Newton Methods
von: Kuang, Wei, et al.
Veröffentlicht: (2025)

Higher Order Reduced Rank Regression
von: Greenberg, Leia, et al.
Veröffentlicht: (2025)

Acceleration Methods
von: d'Aspremont, Alexandre, et al.
Veröffentlicht: (2021)

Symmetric Rank-One Quasi-Newton Methods for Deep Learning Using Cubic Regularization
von: Ranganath, Aditya, et al.
Veröffentlicht: (2025)

Faster Randomized Methods for Orthogonality Constrained Problems
von: Shustin, Boris, et al.
Veröffentlicht: (2021)

Adaptive Proximal Gradient Method for Convex Optimization
von: Malitsky, Yura, et al.
Veröffentlicht: (2023)

ZORMS-LfD: Learning from Demonstrations with Zeroth-Order Random Matrix Search
von: Dry, Olivia, et al.
Veröffentlicht: (2025)

Primal-Dual Methods for Nonsmooth Nonconvex Optimization with Orthogonality Constraints
von: Zhu, Linglingzhi, et al.
Veröffentlicht: (2026)

Adaptive Lipschitz-Free Conditional Gradient Methods for Stochastic Composite Nonconvex Optimization
von: Yuan, Ganzhao
Veröffentlicht: (2026)

A Trust-Region Interior-Point Stochastic Sequential Quadratic Programming Method
von: Fang, Yuchen, et al.
Veröffentlicht: (2026)

Fast Unconstrained Optimization via Hessian Averaging and Adaptive Gradient Sampling Methods
von: O'Leary-Roseberry, Thomas, et al.
Veröffentlicht: (2024)

The Nondecreasing Rank
von: McCormack, Andrew
Veröffentlicht: (2025)

A Block Coordinate Descent Method for Nonsmooth Composite Optimization under Orthogonality Constraints
von: Yuan, Ganzhao
Veröffentlicht: (2023)

On the Width Scaling of Neural Optimizers Under Matrix Operator Norms I: Row/Column Normalization and Hyperparameter Transfer
von: Xu, Ruihan, et al.
Veröffentlicht: (2026)

On the Convergence of the Gradient Descent Method with Stochastic Fixed-point Rounding Errors under the Polyak-Lojasiewicz Inequality
von: Xia, Lu, et al.
Veröffentlicht: (2023)

A Natural Primal-Dual Hybrid Gradient Method for Adversarial Neural Network Training on Solving Partial Differential Equations
von: Liu, Shu, et al.
Veröffentlicht: (2024)

Proximal Gradient-based Low Rank Tensor Decomposition for State Dependent Riccati Equation
von: Jiang, Jiahua, et al.
Veröffentlicht: (2026)

From Cursed to Competitive: Closing the ZO-FO Gap via Input-to-State Stability
von: Farzin, Amir Ali, et al.
Veröffentlicht: (2026)

PRISM: Distribution-free Adaptive Computation of Matrix Functions for Accelerating Neural Network Training
von: Yang, Shenghao, et al.
Veröffentlicht: (2026)

Inexact Projected Preconditioned Gradient Methods with Variable Metrics: General Convergence Theory via Lyapunov Approach
von: Guo, Ruchi, et al.
Veröffentlicht: (2025)

Dynamic Proximal Gradient Algorithms for Schatten-$p$ Quasi-Norm Regularized Problems
von: Shen, Weiping, et al.
Veröffentlicht: (2026)

Why is Normalization Preferred? A Worst-Case Complexity Theory for Stochastically Preconditioned SGD under Heavy-Tailed Noise
von: Fang, Yuchen, et al.
Veröffentlicht: (2026)

Natural Riemannian gradient for learning functional tensor networks
von: Klug, Nikolas, et al.
Veröffentlicht: (2026)

A distributed semismooth Newton based augmented Lagrangian method for distributed optimization
von: Ma, Qihao, et al.
Veröffentlicht: (2026)

Solving the Offline and Online Min-Max Problem of Non-smooth Submodular-Concave Functions: A Zeroth-Order Approach
von: Farzin, Amir Ali, et al.
Veröffentlicht: (2026)

WinQ: Accelerating Quantization-Aware Training of Language Models Around Saddle Points
von: Li, Dongyue, et al.
Veröffentlicht: (2026)

Last-Iterate Convergence of Randomized Kaczmarz and SGD with Greedy Step Size
von: Dereziński, Michał, et al.
Veröffentlicht: (2026)

OptEMA: Adaptive Exponential Moving Average for Stochastic Optimization with Zero-Noise Optimality
von: Yuan, Ganzhao
Veröffentlicht: (2026)

Nonlinear model reduction for transport-dominated problems
von: Hesthaven, Jan S., et al.
Veröffentlicht: (2026)

Kernel-based potential mean-field games with unbiased random Fourier $U$-statistics
von: Nakano, Yumiharu
Veröffentlicht: (2026)

Shape Derivative-Informed Neural Operators with Application to Risk-Averse Shape Optimization
von: Gong, Xindi, et al.
Veröffentlicht: (2026)

Continuum-marginal optimal transport: a mesh-free kernel method
von: Nakano, Yumiharu
Veröffentlicht: (2026)

Beyond Muon: MUD (MomentUm Decorrelation) for Faster Transformer Training
von: Southworth, Ben S., et al.
Veröffentlicht: (2026)

Fundamental Bias in Inverting Random Sampling Matrices with Application to Sub-sampled Newton
von: Niu, Chengmei, et al.
Veröffentlicht: (2025)

Scalable Acceleration for Classification-Based Derivative-Free Optimization
von: Han, Tianyi, et al.
Veröffentlicht: (2023)

Learning rate adaptive stochastic gradient descent optimization methods: numerical simulations for deep learning methods for partial differential equations and convergence analyses
von: Dereich, Steffen, et al.
Veröffentlicht: (2024)

On the numerical reliability of nonsmooth autodiff: a MaxPool case study
von: Boustany, Ryan
Veröffentlicht: (2024)

Error Feedback Can Accurately Compress Preconditioners
von: Modoranu, Ionut-Vlad, et al.
Veröffentlicht: (2023)