Buchumschlag

Improved Last-Iterate Convergence of Shuffling Gradient Methods for Nonsmooth Convex Optimization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liu, Zijian, Zhou, Zhengyuan
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Optimization and Control Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

On the Last-Iterate Convergence of Shuffling Gradient Methods
von: Liu, Zijian, et al.
Veröffentlicht: (2024)

Revisiting the Last-Iterate Convergence of Stochastic Gradient Methods
von: Liu, Zijian, et al.
Veröffentlicht: (2023)

Clipped Gradient Methods for Nonsmooth Convex Optimization under Heavy-Tailed Noise: A Refined Analysis
von: Liu, Zijian
Veröffentlicht: (2025)

Nonconvex Stochastic Optimization under Heavy-Tailed Noises: Optimal Convergence without Gradient Clipping
von: Liu, Zijian, et al.
Veröffentlicht: (2024)

Shuffling Momentum Gradient Algorithm for Convex Optimization
von: Tran, Trang H., et al.
Veröffentlicht: (2024)

Last-Iterate Convergent Policy Gradient Primal-Dual Methods for Constrained MDPs
von: Ding, Dongsheng, et al.
Veröffentlicht: (2023)

Adam-family Methods for Nonsmooth Optimization with Convergence Guarantees
von: Xiao, Nachuan, et al.
Veröffentlicht: (2023)

In-Expectation Convergence of Stochastic Gradient Methods under Heavy-Tailed Noise
von: Liu, Zijian
Veröffentlicht: (2026)

Last Iterate Convergence of Incremental Methods and Applications in Continual Learning
von: Cai, Xufeng, et al.
Veröffentlicht: (2024)

Shuffling Gradient-Based Methods for Nonconvex-Concave Minimax Optimization
von: Tran-Dinh, Quoc, et al.
Veröffentlicht: (2024)

Can Adaptive Gradient Methods Converge under Heavy-Tailed Noise? A Case Study of AdaGrad
von: Liu, Zijian
Veröffentlicht: (2026)

On the Convergence of Adaptive Gradient Methods for Nonconvex Optimization
von: Zhou, Dongruo, et al.
Veröffentlicht: (2018)

Convergence of Decentralized Stochastic Subgradient-based Methods for Nonsmooth Nonconvex functions
von: Zhang, Siyuan, et al.
Veröffentlicht: (2024)

Convergence Rate of the Last Iterate of Stochastic Proximal Algorithms
von: Vaidyan, Kevin Kurian Thomas, et al.
Veröffentlicht: (2026)

Variance Reduction Methods Do Not Need to Compute Full Gradients: Improved Efficiency through Shuffling
von: Medyakov, Daniil, et al.
Veröffentlicht: (2025)

Gradient Descent's Last Iterate is Often (slightly) Suboptimal
von: Kornowski, Guy, et al.
Veröffentlicht: (2026)

Online Convex Optimization with Heavy Tails: Old Algorithms, New Regrets, and Applications
von: Liu, Zijian
Veröffentlicht: (2025)

Fast Last-Iterate Convergence of SGD in the Smooth Interpolation Regime
von: Attia, Amit, et al.
Veröffentlicht: (2025)

Faster Gradient-Free Algorithms for Nonsmooth Nonconvex Stochastic Optimization
von: Chen, Lesi, et al.
Veröffentlicht: (2023)

An Accelerated Gradient Method for Convex Smooth Simple Bilevel Optimization
von: Cao, Jincheng, et al.
Veröffentlicht: (2024)

Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation
von: Cai, Yang, et al.
Veröffentlicht: (2023)

On Convergence of Incremental Gradient for Non-Convex Smooth Functions
von: Koloskova, Anastasia, et al.
Veröffentlicht: (2023)

Developing Lagrangian-based Methods for Nonsmooth Nonconvex Optimization
von: Xiao, Nachuan, et al.
Veröffentlicht: (2024)

Projective Proximal Gradient Descent for A Class of Nonconvex Nonsmooth Optimization Problems: Fast Convergence Without Kurdyka-Lojasiewicz (KL) Property
von: Yang, Yingzhen, et al.
Veröffentlicht: (2023)

Nonsmooth Nonconvex-Nonconcave Minimax Optimization: Primal-Dual Balancing and Iteration Complexity Analysis
von: Li, Jiajin, et al.
Veröffentlicht: (2022)

Nesterov Finds GRAAL: Optimal and Adaptive Gradient Method for Convex Optimization
von: Borodich, Ekaterina, et al.
Veröffentlicht: (2025)

Zeroth-Order Methods for Stochastic Nonconvex Nonsmooth Composite Optimization
von: Chen, Ziyi, et al.
Veröffentlicht: (2025)

Revisiting Convergence: Shuffling Complexity Beyond Lipschitz Smoothness
von: He, Qi, et al.
Veröffentlicht: (2025)

Nonsmooth Implicit Differentiation: Deterministic and Stochastic Convergence Rates
von: Grazzi, Riccardo, et al.
Veröffentlicht: (2024)

Adaptive Proximal Gradient Method for Convex Optimization
von: Malitsky, Yura, et al.
Veröffentlicht: (2023)

Improved Sample Complexity for Private Nonsmooth Nonconvex Optimization
von: Kornowski, Guy, et al.
Veröffentlicht: (2024)

Adam-SHANG: A Convergent Adam-Type Method for Stochastic Smooth Convex Optimization
von: Yu, Yaxin, et al.
Veröffentlicht: (2026)

A Proximal Modified Quasi-Newton Method for Nonsmooth Regularized Optimization
von: Diouane, Youssef, et al.
Veröffentlicht: (2024)

Deterministic Nonsmooth Nonconvex Optimization
von: Jordan, Michael I., et al.
Veröffentlicht: (2023)

Shuffling Heuristic in Variational Inequalities: Establishing New Convergence Guarantees
von: Medyakov, Daniil, et al.
Veröffentlicht: (2025)

Linearly Convergent Algorithms for Nonsmooth Problems with Unknown Smooth Pieces
von: Zhang, Zhe, et al.
Veröffentlicht: (2025)

Low-Rank Extragradient Method for Nonsmooth and Low-Rank Matrix Optimization Problems
von: Garber, Dan, et al.
Veröffentlicht: (2022)

Last-Iterate Convergence of Randomized Kaczmarz and SGD with Greedy Step Size
von: Dereziński, Michał, et al.
Veröffentlicht: (2026)

Learning Provably Improves the Convergence of Gradient Descent
von: Song, Qingyu, et al.
Veröffentlicht: (2025)

Primal-Dual Methods for Nonsmooth Nonconvex Optimization with Orthogonality Constraints
von: Zhu, Linglingzhi, et al.
Veröffentlicht: (2026)