Buchumschlag

Random Reshuffling with Momentum for Nonconvex Problems: Iteration Complexity and Last Iterate Convergence

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Qiu, Junwen, Ma, Bohao, Milzarek, Andre
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Optimization and Control 90C26, 90C15
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A New Random Reshuffling Method for Nonsmooth Nonconvex Finite-sum Optimization
von: Qiu, Junwen, et al.
Veröffentlicht: (2023)

A Normal Map-Based Proximal Stochastic Gradient Method: Convergence and Identification Properties
von: Qiu, Junwen, et al.
Veröffentlicht: (2023)

A KL-based Analysis Framework with Applications to Non-Descent Optimization Methods
von: Qiu, Junwen, et al.
Veröffentlicht: (2024)

A Generalized Version of Chung's Lemma and its Applications
von: Jiang, Li, et al.
Veröffentlicht: (2024)

High Probability Guarantees for Random Reshuffling
von: Yu, Hengxu, et al.
Veröffentlicht: (2023)

Extended Triangle Inequalities for Nonconvex Box-Constrained Quadratic Programming
von: Anstreicher, Kurt M., et al.
Veröffentlicht: (2025)

Shuffling the Stochastic Mirror Descent via Dual Lipschitz Continuity and Kernel Conditioning
von: Qiu, Junwen, et al.
Veröffentlicht: (2026)

Alternating Iteratively Reweighted $\ell_1$ and Subspace Newton Algorithms for Nonconvex Sparse Optimization
von: Wang, Hao, et al.
Veröffentlicht: (2024)

Improving Convergence Guarantees of Random Subspace Second-order Algorithm for Nonconvex Optimization
von: Higuchi, Rei, et al.
Veröffentlicht: (2024)

On Tackling High-Dimensional Nonconvex Stochastic Optimization via Stochastic First-Order Methods with Non-smooth Proximal Terms and Variance Reduction
von: Xie, Yue, et al.
Veröffentlicht: (2025)

A Globally Convergent Gradient Method with Momentum
von: Lapucci, Matteo, et al.
Veröffentlicht: (2024)

MoSSP: A Momentum-Based Single-Loop Stochastic Penalty Method for Nonconvex Constrained DC-Regularized Optimization
von: Li, Luxuan, et al.
Veröffentlicht: (2026)

Lagrangian Reformulation for Nonconvex Optimization: Tailoring Problems to Specialized Solvers
von: Quintero, Rodolfo A., et al.
Veröffentlicht: (2024)

Taming Nonconvex Stochastic Mirror Descent with General Bregman Divergence
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2024)

A Stochastic Quasi-Newton Method in the Absence of Common Random Numbers
von: Menickelly, Matt, et al.
Veröffentlicht: (2023)

First- and Second-Order Stochastic Adaptive Regularization with Cubics: High Probability Iteration and Sample Complexity
von: Scheinberg, Katya, et al.
Veröffentlicht: (2023)

Stochastic First-Order Methods with Non-smooth and Non-Euclidean Proximal Terms for Nonconvex High-Dimensional Stochastic Optimization
von: Xie, Yue, et al.
Veröffentlicht: (2024)

Further Development in Convex Conic Reformulation of Geometric Nonconvex Conic Optimization Problems
von: Arima, Naohiko, et al.
Veröffentlicht: (2023)

Optimization without Retraction on the Random Generalized Stiefel Manifold
von: Vary, Simon, et al.
Veröffentlicht: (2024)

A Unifying Convexification Framework for Chance-Constrained Programs via Bilinear Extended Formulations over a Simplex
von: Davarnia, Danial, et al.
Veröffentlicht: (2025)

Boosted Stochastic Frank-Wolfe for Constrained Nonconvex Optimization
von: Nandhan, Navil, et al.
Veröffentlicht: (2026)

Projected Gradient Methods with Momentum
von: Lapucci, Matteo, et al.
Veröffentlicht: (2026)

Local Convergence Analysis of ADMM for Nonconvex Composite Optimization
von: Xie, Xiyuan, et al.
Veröffentlicht: (2026)

A Semismooth Newton Stochastic Proximal Point Algorithm with Variance Reduction
von: Milzarek, Andre, et al.
Veröffentlicht: (2022)

BattOpt: Optimal Facility Planning for Electric Vehicle Battery Recycling
von: Brun, Matthew, et al.
Veröffentlicht: (2024)

Stochastic Krasnoselskii-Mann Iterations: Convergence without Uniformly Bounded Variance
von: Cortild, Daniel, et al.
Veröffentlicht: (2026)

Riemannian Gradient Method with Momentum
von: Leggio, Filippo, et al.
Veröffentlicht: (2026)

Gradient Norm Regularization Second-Order Algorithms for Solving Nonconvex-Strongly Concave Minimax Problems
von: Wang, Jun-Lin, et al.
Veröffentlicht: (2024)

SUDA-Muon: Structural Design Principles and Boundaries for Fully Decentralized Muon
von: Zhang, Hengrui, et al.
Veröffentlicht: (2026)

QPALM: A Proximal Augmented Lagrangian Method for Nonconvex Quadratic Programs
von: Hermans, Ben, et al.
Veröffentlicht: (2020)

Application and issues in abstract convexity
von: Millán, Reinier Díaz, et al.
Veröffentlicht: (2022)

An Extended ADMM for 3-Block Nonconvex Nonseparable Problems with Applications
von: Liu, Zekun
Veröffentlicht: (2024)

New Classes of Non-monotone Variational Inequality Problems Solvable via Proximal Gradient on Smooth Gap Functions
von: Zhao, Lei, et al.
Veröffentlicht: (2025)

Conductance Estimation in Digraphs: Submodular Transformation, Lovász Extension and Dinkelbach Iteration
von: Shao, Sihong, et al.
Veröffentlicht: (2025)

Stochastic Optimization under Hidden Convexity
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2023)

Effective Front-Descent Algorithms with Convergence Guarantees
von: Lapucci, Matteo, et al.
Veröffentlicht: (2024)

Extending Linear Convergence of the Proximal Point Algorithm: The Quasar-Convex Case
von: de Brito, José, et al.
Veröffentlicht: (2025)

An Inexact Halpern Iteration with Application to Distributionally Robust Optimization
von: Liang, Ling, et al.
Veröffentlicht: (2024)

Multivariate approximation by polynomial and generalised rational functions
von: Millán, R. Díaz, et al.
Veröffentlicht: (2021)

Relaxations of KKT Conditions do not Strengthen Finite RLT and SDP-RLT Bounds for Nonconvex Quadratic Programs
von: Yildirim, E. Alper
Veröffentlicht: (2025)