Continuized Nesterov Momentum Achieves the $O(\varepsilon^{-7/4})$ Complexity without Additional Mechanisms
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Hermant, Julien, Aujol, Jean-François, Dossal, Charles, Huang, Lorick, Rondepierre, Aude, Waldspurger, Irène |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Continuized Nesterov Acceleration for Non-Convex Optimization
par: Hermant, Julien, et autres
Publié: (2025)
par: Hermant, Julien, et autres
Publié: (2025)
Study of the behaviour of Nesterov Accelerated Gradient in a non convex setting: the strongly quasar convex case
par: Hermant, Julien, et autres
Publié: (2024)
par: Hermant, Julien, et autres
Publié: (2024)
Gradient correlation is a key ingredient to accelerate SGD with momentum
par: Hermant, Julien, et autres
Publié: (2024)
par: Hermant, Julien, et autres
Publié: (2024)
Strong Convergence of FISTA Iterates under H{ö}lderian and Quadratic Growth Conditions
par: Aujol, Jean-François, et autres
Publié: (2024)
par: Aujol, Jean-François, et autres
Publié: (2024)
Heavy Ball Momentum for Non-Strongly Convex Optimization
par: Aujol, Jean-François, et autres
Publié: (2024)
par: Aujol, Jean-François, et autres
Publié: (2024)
Acceleration for Polyak-Łojasiewicz Functions with a Gradient Aiming Condition
par: Hermant, Julien
Publié: (2026)
par: Hermant, Julien
Publié: (2026)
Optimization with First Order Algorithms
par: Dossal, Charles, et autres
Publié: (2024)
par: Dossal, Charles, et autres
Publié: (2024)
Stochastic Adaptive Gradient Descent Without Descent
par: Aujol, Jean-François, et autres
Publié: (2025)
par: Aujol, Jean-François, et autres
Publié: (2025)
Benign landscape for Burer-Monteiro factorizations of MaxCut-type semidefinite programs
par: Endor, Faniriana Rakoto, et autres
Publié: (2024)
par: Endor, Faniriana Rakoto, et autres
Publié: (2024)
Projected Block Coordinate Descent for sparse spike estimation
par: Bénard, Pierre-Jean, et autres
Publié: (2024)
par: Bénard, Pierre-Jean, et autres
Publié: (2024)
The Nesterov-Spokoiny Acceleration Achieves Strict $o(1/k^2)$ Convergence
par: Peng, Weibin, et autres
Publié: (2023)
par: Peng, Weibin, et autres
Publié: (2023)
Adan: Adaptive Nesterov Momentum Algorithm for Faster Optimizing Deep Models
par: Xie, Xingyu, et autres
Publié: (2022)
par: Xie, Xingyu, et autres
Publié: (2022)
A note on the convergence of RED algorithms under minimal hypotheses and open questions
par: Traonmilin, Yann, et autres
Publié: (2026)
par: Traonmilin, Yann, et autres
Publié: (2026)
Provable Accelerated Convergence of Nesterov's Momentum for Deep ReLU Neural Networks
par: Liao, Fangshuo, et autres
Publié: (2023)
par: Liao, Fangshuo, et autres
Publié: (2023)
Muon with Nesterov Momentum: Heavy-Tailed Noise and (Randomized) Inexact Polar Decomposition
par: Choudhury, Sayantan, et autres
Publié: (2026)
par: Choudhury, Sayantan, et autres
Publié: (2026)
From sparse recovery to plug-and-play priors, understanding trade-offs for stable recovery with generalized projected gradient descent
par: Joundi, Ali, et autres
Publié: (2025)
par: Joundi, Ali, et autres
Publié: (2025)
On the non-convexity issue in the radial Calderón problem
par: Alberti, Giovanni S., et autres
Publié: (2025)
par: Alberti, Giovanni S., et autres
Publié: (2025)
Relaxed Proximal Point Algorithm: Tight Complexity Bounds and Acceleration without Momentum
par: Wang, Bofan, et autres
Publié: (2024)
par: Wang, Bofan, et autres
Publié: (2024)
Nesterov Acceleration with Operator Decomposition
par: Lee, Jaewook, et autres
Publié: (2026)
par: Lee, Jaewook, et autres
Publié: (2026)
Generalized Continuous-Time Models for Nesterov's Accelerated Gradient Methods
par: Park, Chanwoong, et autres
Publié: (2024)
par: Park, Chanwoong, et autres
Publié: (2024)
EMA-Nesterov: Stabilizing Nesterov's Lookahead for Accelerated Deep Learning Optimization
par: Yau, Chung-Yiu, et autres
Publié: (2026)
par: Yau, Chung-Yiu, et autres
Publié: (2026)
Nesterov Accelerated Distributed Optimization with Efficient Quantized Communication
par: Wu, Ruochen, et autres
Publié: (2026)
par: Wu, Ruochen, et autres
Publié: (2026)
Projected gradient descent accumulates at Bouligand stationary points
par: Olikier, Guillaume, et autres
Publié: (2024)
par: Olikier, Guillaume, et autres
Publié: (2024)
The Iterates of Nesterov's Accelerated Algorithm Converge in The Critical Regimes
par: Bot, Radu Ioan, et autres
Publié: (2025)
par: Bot, Radu Ioan, et autres
Publié: (2025)
Delayed supermartingale convergence lemmas for stochastic approximation with Nesterov momentum
par: Ming-Kun, Zhang
Publié: (2024)
par: Ming-Kun, Zhang
Publié: (2024)
Accelerated linearized alternating direction method of multipliers with Nesterov extrapolation
par: He, X., et autres
Publié: (2023)
par: He, X., et autres
Publié: (2023)
On the Instability of Nesterov's ODE under Non-Conservative Vector Fields
par: Ochoa, Daniel E., et autres
Publié: (2025)
par: Ochoa, Daniel E., et autres
Publié: (2025)
Nesterov Flow May Travel Infinitely Long to Converge to a Minimizer
par: Ryu, Ernest K.
Publié: (2026)
par: Ryu, Ernest K.
Publié: (2026)
An Adaptive and Parameter-Free Nesterov's Accelerated Gradient Method for Convex Optimization
par: Suh, Jaewook J., et autres
Publié: (2025)
par: Suh, Jaewook J., et autres
Publié: (2025)
Point Convergence of Nesterov's Accelerated Gradient Method: An AI-Assisted Proof
par: Jang, Uijeong, et autres
Publié: (2025)
par: Jang, Uijeong, et autres
Publié: (2025)
Heavy Ball and Nesterov Accelerations with Hessian-driven Damping for Nonconvex Optimization
par: Hadjisavvas, N., et autres
Publié: (2025)
par: Hadjisavvas, N., et autres
Publié: (2025)
Bessel Function Analysis of Nesterov's ODE in $N$-Player Quadratic Games
par: Paek, Jay
Publié: (2026)
par: Paek, Jay
Publié: (2026)
A Nesterov-Accelerated Primal-Dual Splitting Algorithm for Convex Nonsmooth Optimization
par: Condat, Laurent, et autres
Publié: (2026)
par: Condat, Laurent, et autres
Publié: (2026)
A Nesterov-style Accelerated Gradient Descent Algorithm for the Symmetric Eigenvalue Problem
par: Alimisis, Foivos, et autres
Publié: (2024)
par: Alimisis, Foivos, et autres
Publié: (2024)
Fractional-Order Nesterov Dynamics for Convex Optimization
par: Ranoto, Tumelo
Publié: (2025)
par: Ranoto, Tumelo
Publié: (2025)
Nesterov acceleration in benignly non-convex landscapes
par: Gupta, Kanan, et autres
Publié: (2024)
par: Gupta, Kanan, et autres
Publié: (2024)
Distributed Stochastic Momentum Tracking with Local Updates: Achieving Optimal Communication and Iteration Complexities
par: Huang, Kun, et autres
Publié: (2025)
par: Huang, Kun, et autres
Publié: (2025)
Technical Report: A Totally Asynchronous Nesterov's Accelerated Gradient Method for Convex Optimization
par: Pond, Ellie, et autres
Publié: (2024)
par: Pond, Ellie, et autres
Publié: (2024)
From Halpern's Fixed-Point Iterations to Nesterov's Accelerated Interpretations for Root-Finding Problems
par: Tran-Dinh, Quoc
Publié: (2022)
par: Tran-Dinh, Quoc
Publié: (2022)
A Concise Lyapunov Analysis of Nesterov's Accelerated Gradient Method
par: Liu, Jun
Publié: (2025)
par: Liu, Jun
Publié: (2025)
Documents similaires
-
Continuized Nesterov Acceleration for Non-Convex Optimization
par: Hermant, Julien, et autres
Publié: (2025) -
Study of the behaviour of Nesterov Accelerated Gradient in a non convex setting: the strongly quasar convex case
par: Hermant, Julien, et autres
Publié: (2024) -
Gradient correlation is a key ingredient to accelerate SGD with momentum
par: Hermant, Julien, et autres
Publié: (2024) -
Strong Convergence of FISTA Iterates under H{ö}lderian and Quadratic Growth Conditions
par: Aujol, Jean-François, et autres
Publié: (2024) -
Heavy Ball Momentum for Non-Strongly Convex Optimization
par: Aujol, Jean-François, et autres
Publié: (2024)