Buchumschlag

Stochastic Non-Smooth Convex Optimization with Unbounded Gradients

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Kovalev, Dmitry
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Optimization and Control Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Nesterov Finds GRAAL: Optimal and Adaptive Gradient Method for Convex Optimization
von: Borodich, Ekaterina, et al.
Veröffentlicht: (2025)

Understanding Gradient Orthogonalization for Deep Learning via Non-Euclidean Trust-Region Optimization
von: Kovalev, Dmitry
Veröffentlicht: (2025)

On Linear Convergence in Smooth Convex-Concave Bilinearly-Coupled Saddle-Point Optimization: Lower Bounds and Optimal Algorithms
von: Kovalev, Dmitry, et al.
Veröffentlicht: (2024)

Lower Bounds and Optimal Algorithms for Non-Smooth Convex Decentralized Optimization over Time-Varying Networks
von: Kovalev, Dmitry, et al.
Veröffentlicht: (2024)

An Accelerated Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2024)

Non-Euclidean SGD for Structured Optimization: Unified Analysis and Improved Rates
von: Kovalev, Dmitry, et al.
Veröffentlicht: (2025)

Optimal Projection-Free Adaptive SGD for Matrix Optimization
von: Kovalev, Dmitry
Veröffentlicht: (2026)

On Convergence of Incremental Gradient for Non-Convex Smooth Functions
von: Koloskova, Anastasia, et al.
Veröffentlicht: (2023)

Online Convex Optimization with Unbounded Memory
von: Kumar, Raunak, et al.
Veröffentlicht: (2022)

An Accelerated Gradient Method for Convex Smooth Simple Bilevel Optimization
von: Cao, Jincheng, et al.
Veröffentlicht: (2024)

A Nearly Optimal Single Loop Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2024)

More Optimal Fractional-Order Stochastic Gradient Descent for Non-Convex Optimization Problems
von: Partohaghighi, Mohammad, et al.
Veröffentlicht: (2025)

The Sample Complexity of Gradient Descent in Stochastic Convex Optimization
von: Livni, Roi
Veröffentlicht: (2024)

SGD with Adaptive Preconditioning: Unified Analysis and Momentum Acceleration
von: Kovalev, Dmitry
Veröffentlicht: (2025)

Rapid Overfitting of Multi-Pass Stochastic Gradient Descent in Stochastic Convex Optimization
von: Vansover-Hager, Shira, et al.
Veröffentlicht: (2025)

Faster Gradient Methods for Highly-Smooth Stochastic Bilevel Optimization
von: Chen, Lesi, et al.
Veröffentlicht: (2025)

Complexity Lower Bounds of Adaptive Gradient Algorithms for Non-convex Stochastic Optimization under Relaxed Smoothness
von: Crawshaw, Michael, et al.
Veröffentlicht: (2025)

Online Non-Stationary Stochastic Quasar-Convex Optimization
von: Pun, Yuen-Man, et al.
Veröffentlicht: (2024)

Adam-SHANG: A Convergent Adam-Type Method for Stochastic Smooth Convex Optimization
von: Yu, Yaxin, et al.
Veröffentlicht: (2026)

Adaptive Gradient Normalization and Independent Sampling for (Stochastic) Generalized-Smooth Optimization
von: Yang, Yufeng, et al.
Veröffentlicht: (2024)

On the Convergence of Adam-Type Algorithm for Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2025)

Smooth Quasar-Convex Optimization with Constraints
von: Martínez-Rubio, David
Veröffentlicht: (2025)

Bayesian Optimization for Non-Convex Two-Stage Stochastic Optimization Problems
von: Buckingham, Jack M., et al.
Veröffentlicht: (2024)

Bilevel Optimization under Unbounded Smoothness: A New Algorithm and Convergence Analysis
von: Hao, Jie, et al.
Veröffentlicht: (2024)

Lower Bounds and Proximally Anchored SGD for Non-Convex Minimization Under Unbounded Variance
von: Fazla, Arda, et al.
Veröffentlicht: (2026)

Methods with Local Steps and Random Reshuffling for Generally Smooth Non-Convex Federated Optimization
von: Demidovich, Yury, et al.
Veröffentlicht: (2024)

Effective Dimension Aware Fractional-Order Stochastic Gradient Descent for Convex Optimization Problems
von: Partohaghighi, Mohammad, et al.
Veröffentlicht: (2025)

Using Stochastic Gradient Descent to Smooth Nonconvex Functions: Analysis of Implicit Graduated Optimization
von: Sato, Naoki, et al.
Veröffentlicht: (2023)

A Stochastic Quasi-Newton Method for Non-convex Optimization with Non-uniform Smoothness
von: Sun, Zhenyu, et al.
Veröffentlicht: (2024)

New Lower Bounds for Stochastic Non-Convex Optimization through Divergence Decomposition
von: Saad, El Mehdi, et al.
Veröffentlicht: (2025)

Stochastic Difference-of-Convex Optimization with Momentum
von: Chayti, El Mahdi, et al.
Veröffentlicht: (2025)

The Price of Adaptivity in Stochastic Convex Optimization
von: Carmon, Yair, et al.
Veröffentlicht: (2024)

Quantitative Convergence Analysis of Projected Stochastic Gradient Descent for Non-Convex Losses via the Goldstein Subdifferential
von: Zheng, Yuping, et al.
Veröffentlicht: (2025)

Stochastic Smoothed Gradient Descent Ascent for Federated Minimax Optimization
von: Shen, Wei, et al.
Veröffentlicht: (2023)

Non-Euclidean High-Order Smooth Convex Optimization
von: Contreras, Juan Pablo, et al.
Veröffentlicht: (2024)

A Stochastic-Gradient-based Interior-Point Algorithm for Solving Smooth Bound-Constrained Optimization Problems
von: Curtis, Frank E., et al.
Veröffentlicht: (2023)

Non-Smooth Weakly-Convex Finite-sum Coupled Compositional Optimization
von: Hu, Quanqi, et al.
Veröffentlicht: (2023)

Convex and Non-convex Federated Learning with Stale Stochastic Gradients: Diminishing Step Size is All You Need
von: Zheng, Xinran, et al.
Veröffentlicht: (2026)

High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise
von: Gorbunov, Eduard, et al.
Veröffentlicht: (2021)

Shuffling Momentum Gradient Algorithm for Convex Optimization
von: Tran, Trang H., et al.
Veröffentlicht: (2024)