Buchumschlag

Convergence of First-Order Algorithms with Momentum from the Perspective of an Inexact Gradient Descent Method

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Khanh, Pham Duy, Mordukhovich, Boris, Tran, Dat Ba
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A New Inexact Gradient Descent Method with Applications to Nonsmooth Convex Optimization
von: Khanh, Pham Duy, et al.
Veröffentlicht: (2023)

Fundamental Convergence Analysis of Sharpness-Aware Minimization
von: Khanh, Pham Duy, et al.
Veröffentlicht: (2024)

Coderivative-Based Newton Methods in Structured Nonconvex and Nonsmooth Optimization
von: Khanh, Pham Duy, et al.
Veröffentlicht: (2024)

Inexact Proximal Point and Tseng Algorithms with Nonsummable Errors to Solve Monotone Inclusions
von: Le, Ba Khiet, et al.
Veröffentlicht: (2026)

Second-Order Subdifferential Optimality Conditions in Nonsmooth Optimization
von: Khanh, Pham Duy, et al.
Veröffentlicht: (2023)

Compact R-Continuity with Applications to Solving Inclusions and Convergence of Algorithms
von: Le, Ba Khiet, et al.
Veröffentlicht: (2025)

First and Second Order Approximations to Stochastic Gradient Descent Methods with Momentum Terms
von: Lu, Eric
Veröffentlicht: (2025)

Generalized Twice Differentiability and Quadratic Bundles in Second-Order Variational Analysis
von: Khanh, Pham Duy, et al.
Veröffentlicht: (2025)

The Anytime Convergence of Stochastic Gradient Descent with Momentum: From a Continuous-Time Perspective
von: Feng, Yasong, et al.
Veröffentlicht: (2023)

Riemannian Inexact Gradient Descent for Quadratic Discrimination
von: Talwar, Uday, et al.
Veröffentlicht: (2025)

Dictionary-Restricted First-Order Descent Methods: Bounds and Convergence Rates
von: Berasategui, Miguel, et al.
Veröffentlicht: (2026)

Generalized Stochastic Gradient Descent with Momentum Methods for Smooth Optimization
von: Wang, Zimeng, et al.
Veröffentlicht: (2026)

Characterizations of Variational Convexity and Tilt Stability via Quadratic Bundles
von: Khanh, Pham Duy, et al.
Veröffentlicht: (2025)

Shuffling Momentum Gradient Algorithm for Convex Optimization
von: Tran, Trang H., et al.
Veröffentlicht: (2024)

Convergence and Complexity Guarantee for Inexact First-order Riemannian Optimization Algorithms
von: Li, Yuchen, et al.
Veröffentlicht: (2024)

Nash Equilibrium and Minimax Theorems via Variational Tools of Convex Analysis
von: Bao, Nguyen Xuan Duy, et al.
Veröffentlicht: (2024)

First-ish Order Methods: Hessian-aware Scalings of Gradient Descent
von: Smee, Oscar, et al.
Veröffentlicht: (2025)

On the Convergence Analysis of an Inexact Preconditioned Stochastic Model-Based Algorithm
von: Bao, Chenglong, et al.
Veröffentlicht: (2025)

Inexact DC Algorithms in Hilbert Spaces with Applications to PDE-Constrained Optimization
von: Khanh, P. D., et al.
Veröffentlicht: (2026)

Robust Analysis of Almost Sure Convergence of Zeroth-Order Mirror Descent Algorithm
von: Paul, Anik Kumar, et al.
Veröffentlicht: (2023)

An Inexact Conditional Gradient Method for Constrained Bilevel Optimization
von: Abolfazli, Nazanin, et al.
Veröffentlicht: (2023)

Modified Loss of Momentum Gradient Descent: Fine-Grained Analysis
von: Cattaneo, Matias D., et al.
Veröffentlicht: (2025)

Convergence Analysis of an Inexact MBA Method for Constrained DC Problems
von: Liu, Ruyu, et al.
Veröffentlicht: (2025)

Coderivative-Based Newton Methods with Wolfe Linesearch for Nonsmooth Optimization
von: Chao, Miantao, et al.
Veröffentlicht: (2024)

Last-Iterate Convergence of Anchored Gradient Descent
von: Cai, Yang, et al.
Veröffentlicht: (2026)

An Inexact Boosted Difference of Convex Algorithm for Nondifferentiable Functions
von: Ferreira, Orizon P., et al.
Veröffentlicht: (2024)

Extended SQP Methods in Nonsmooth Difference Programming Applied to Problems with Variational Inequality Constraints
von: Mordukhovich, Boris S., et al.
Veröffentlicht: (2025)

Inexactly Smooth Performance Estimation and New Optimized Gradient Methods
von: Zoll, Aaron, et al.
Veröffentlicht: (2026)

A Relative Inexact Proximal Gradient Method with an Explicit Linesearch
von: Bello-Cruz, Yunier, et al.
Veröffentlicht: (2024)

On Some Versions of Subspace Optimization Methods with Inexact Gradient Information
von: Kuruzov, Ilya, et al.
Veröffentlicht: (2024)

Distributed and Inexact Proximal Gradient Method for Online Convex Optimization
von: Bastianello, Nicola, et al.
Veröffentlicht: (2020)

Conditional Gradient Methods with Standard LMO for Stochastic Simple Bilevel Optimization
von: Giang-Tran, Khanh-Hung, et al.
Veröffentlicht: (2025)

Efficient Gradient Tracking Algorithms for Distributed Optimization Problems with Inexact Communication
von: Zhao, Shengchao, et al.
Veröffentlicht: (2025)

On Convergence of the Iteratively Preconditioned Gradient-Descent (IPG) Observer
von: Chakrabarti, Kushal, et al.
Veröffentlicht: (2024)

Algorithmic Stability of Stochastic Gradient Descent with Momentum under Heavy-Tailed Noise
von: Dang, Thanh, et al.
Veröffentlicht: (2025)

Tight Analysis of Difference-of-Convex Algorithm (DCA) Improves Convergence Rates for Proximal Gradient Descent
von: Rotaru, Teodor, et al.
Veröffentlicht: (2025)

Convergence Analysis of the Last Iterate in Distributed Stochastic Gradient Descent with Momentum
von: Cheng, Difei, et al.
Veröffentlicht: (2025)

Convergence of Descent Optimization Algorithms under Polyak-Łojasiewicz-Kurdyka Conditions
von: Bento, G. C., et al.
Veröffentlicht: (2024)

A Proof of the Exact Convergence Rate of Gradient Descent
von: Kim, Jungbin
Veröffentlicht: (2024)

Inexact Augmented Lagrangian Methods for Conic Programs: Quadratic Growth and Linear Convergence
von: Liao, Feng-Yi, et al.
Veröffentlicht: (2024)