Heavy Ball and Nesterov Accelerations with Hessian-driven Damping for Nonconvex Optimization
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Hadjisavvas, N., Lara, F., Marcavillaca, R. T., Vuong, P. T. |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Characterizations, Dynamical Systems and Gradient Methods for Strongly Quasiconvex Functions
von: Lara, Felipe, et al.
Veröffentlicht: (2024)
von: Lara, Felipe, et al.
Veröffentlicht: (2024)
Accelerated Gradient Methods via Inertial Systems with Hessian-driven Damping
von: Wang, Zepeng, et al.
Veröffentlicht: (2025)
von: Wang, Zepeng, et al.
Veröffentlicht: (2025)
Provable Acceleration of Nesterov's Accelerated Gradient Method over Heavy Ball Method in Training Over-Parameterized Neural Networks
von: Liu, Xin, et al.
Veröffentlicht: (2022)
von: Liu, Xin, et al.
Veröffentlicht: (2022)
Continuized Nesterov Acceleration for Non-Convex Optimization
von: Hermant, Julien, et al.
Veröffentlicht: (2025)
von: Hermant, Julien, et al.
Veröffentlicht: (2025)
EMA-Nesterov: Stabilizing Nesterov's Lookahead for Accelerated Deep Learning Optimization
von: Yau, Chung-Yiu, et al.
Veröffentlicht: (2026)
von: Yau, Chung-Yiu, et al.
Veröffentlicht: (2026)
Nesterov Accelerated Distributed Optimization with Efficient Quantized Communication
von: Wu, Ruochen, et al.
Veröffentlicht: (2026)
von: Wu, Ruochen, et al.
Veröffentlicht: (2026)
Strongly quasiconvex functions: what we know (so far)
von: Grad, Sorin-Mihai, et al.
Veröffentlicht: (2024)
von: Grad, Sorin-Mihai, et al.
Veröffentlicht: (2024)
Accelerated linearized alternating direction method of multipliers with Nesterov extrapolation
von: He, X., et al.
Veröffentlicht: (2023)
von: He, X., et al.
Veröffentlicht: (2023)
Nesterov Acceleration with Operator Decomposition
von: Lee, Jaewook, et al.
Veröffentlicht: (2026)
von: Lee, Jaewook, et al.
Veröffentlicht: (2026)
Characterizations of Strongly Quasiconvex Functions
von: Hadjisavvas, Nicolas, et al.
Veröffentlicht: (2025)
von: Hadjisavvas, Nicolas, et al.
Veröffentlicht: (2025)
An Adaptive and Parameter-Free Nesterov's Accelerated Gradient Method for Convex Optimization
von: Suh, Jaewook J., et al.
Veröffentlicht: (2025)
von: Suh, Jaewook J., et al.
Veröffentlicht: (2025)
Optimal Hessian/Jacobian-Free Nonconvex-PL Bilevel Optimization
von: Huang, Feihu
Veröffentlicht: (2024)
von: Huang, Feihu
Veröffentlicht: (2024)
NonOpt: Nonconvex, Nonsmooth Optimizer
von: Curtis, Frank E., et al.
Veröffentlicht: (2025)
von: Curtis, Frank E., et al.
Veröffentlicht: (2025)
A Nesterov-Accelerated Primal-Dual Splitting Algorithm for Convex Nonsmooth Optimization
von: Condat, Laurent, et al.
Veröffentlicht: (2026)
von: Condat, Laurent, et al.
Veröffentlicht: (2026)
Technical Report: A Totally Asynchronous Nesterov's Accelerated Gradient Method for Convex Optimization
von: Pond, Ellie, et al.
Veröffentlicht: (2024)
von: Pond, Ellie, et al.
Veröffentlicht: (2024)
Accelerated Over-Relaxation Heavy-Ball Method: Achieving Global Accelerated Convergence with Broad Generalization
von: Wei, Jingrong, et al.
Veröffentlicht: (2024)
von: Wei, Jingrong, et al.
Veröffentlicht: (2024)
The Iterates of Nesterov's Accelerated Algorithm Converge in The Critical Regimes
von: Bot, Radu Ioan, et al.
Veröffentlicht: (2025)
von: Bot, Radu Ioan, et al.
Veröffentlicht: (2025)
(Accelerated) Noise-adaptive Stochastic Heavy-Ball Momentum
von: Dang, Anh, et al.
Veröffentlicht: (2024)
von: Dang, Anh, et al.
Veröffentlicht: (2024)
An Iteratively Reweighted Method for Sparse Optimization on Nonconvex $\ell_{p}$ Ball
von: Wang, Hao, et al.
Veröffentlicht: (2021)
von: Wang, Hao, et al.
Veröffentlicht: (2021)
Inexact and Stochastic Gradient Optimization Algorithms with Inertia and Hessian Driven Damping
von: Choudhary, Harsh, et al.
Veröffentlicht: (2025)
von: Choudhary, Harsh, et al.
Veröffentlicht: (2025)
Nesterov Acceleration for Ensemble Kalman Inversion and Variants
von: Vernon, Sydney, et al.
Veröffentlicht: (2025)
von: Vernon, Sydney, et al.
Veröffentlicht: (2025)
Point Convergence of Nesterov's Accelerated Gradient Method: An AI-Assisted Proof
von: Jang, Uijeong, et al.
Veröffentlicht: (2025)
von: Jang, Uijeong, et al.
Veröffentlicht: (2025)
An inexact inertial projective splitting algorithm with strong convergence
von: Alves, M. Marques, et al.
Veröffentlicht: (2025)
von: Alves, M. Marques, et al.
Veröffentlicht: (2025)
Tight Lower Bounds and Optimal Algorithms for Stochastic Nonconvex Optimization with Heavy-Tailed Noise
von: Fradin, Adrien, et al.
Veröffentlicht: (2025)
von: Fradin, Adrien, et al.
Veröffentlicht: (2025)
Robust Distributed Nonconvex Optimization Enabling Communication Acceleration and Privacy Protection
von: Ou, Zichong, et al.
Veröffentlicht: (2026)
von: Ou, Zichong, et al.
Veröffentlicht: (2026)
A Nesterov-style Accelerated Gradient Descent Algorithm for the Symmetric Eigenvalue Problem
von: Alimisis, Foivos, et al.
Veröffentlicht: (2024)
von: Alimisis, Foivos, et al.
Veröffentlicht: (2024)
The Nesterov-Spokoiny Acceleration Achieves Strict $o(1/k^2)$ Convergence
von: Peng, Weibin, et al.
Veröffentlicht: (2023)
von: Peng, Weibin, et al.
Veröffentlicht: (2023)
A Concise Lyapunov Analysis of Nesterov's Accelerated Gradient Method
von: Liu, Jun
Veröffentlicht: (2025)
von: Liu, Jun
Veröffentlicht: (2025)
A Mixing-Accelerated Primal-Dual Proximal Algorithm for Distributed Nonconvex Optimization
von: Ou, Zichong, et al.
Veröffentlicht: (2023)
von: Ou, Zichong, et al.
Veröffentlicht: (2023)
Accelerated Convergence of Stochastic Heavy Ball Method under Anisotropic Gradient Noise
von: Pan, Rui, et al.
Veröffentlicht: (2023)
von: Pan, Rui, et al.
Veröffentlicht: (2023)
Moreau Envelope for Nonconvex Bi-Level Optimization: A Single-loop and Hessian-free Solution Strategy
von: Liu, Risheng, et al.
Veröffentlicht: (2024)
von: Liu, Risheng, et al.
Veröffentlicht: (2024)
Complexity Guarantees for Nonconvex Newton-MR Under Inexact Hessian Information
von: Lim, Alexander, et al.
Veröffentlicht: (2023)
von: Lim, Alexander, et al.
Veröffentlicht: (2023)
From Halpern's Fixed-Point Iterations to Nesterov's Accelerated Interpretations for Root-Finding Problems
von: Tran-Dinh, Quoc
Veröffentlicht: (2022)
von: Tran-Dinh, Quoc
Veröffentlicht: (2022)
Methods of Nonconvex Optimization
von: Mikhalevich, V. S., et al.
Veröffentlicht: (2024)
von: Mikhalevich, V. S., et al.
Veröffentlicht: (2024)
Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
von: Wang, Menglian, et al.
Veröffentlicht: (2026)
von: Wang, Menglian, et al.
Veröffentlicht: (2026)
Optimal Asynchronous Stochastic Nonconvex Optimization under Heavy-Tailed Noise
von: Wu, Yidong, et al.
Veröffentlicht: (2026)
von: Wu, Yidong, et al.
Veröffentlicht: (2026)
Open Problem: Two Riddles in Heavy-Ball Dynamics
von: Goujaud, Baptiste, et al.
Veröffentlicht: (2025)
von: Goujaud, Baptiste, et al.
Veröffentlicht: (2025)
Generalized Continuous-Time Models for Nesterov's Accelerated Gradient Methods
von: Park, Chanwoong, et al.
Veröffentlicht: (2024)
von: Park, Chanwoong, et al.
Veröffentlicht: (2024)
Muon with Nesterov Momentum: Heavy-Tailed Noise and (Randomized) Inexact Polar Decomposition
von: Choudhury, Sayantan, et al.
Veröffentlicht: (2026)
von: Choudhury, Sayantan, et al.
Veröffentlicht: (2026)
Fractional-Order Nesterov Dynamics for Convex Optimization
von: Ranoto, Tumelo
Veröffentlicht: (2025)
von: Ranoto, Tumelo
Veröffentlicht: (2025)
Ähnliche Einträge
-
Characterizations, Dynamical Systems and Gradient Methods for Strongly Quasiconvex Functions
von: Lara, Felipe, et al.
Veröffentlicht: (2024) -
Accelerated Gradient Methods via Inertial Systems with Hessian-driven Damping
von: Wang, Zepeng, et al.
Veröffentlicht: (2025) -
Provable Acceleration of Nesterov's Accelerated Gradient Method over Heavy Ball Method in Training Over-Parameterized Neural Networks
von: Liu, Xin, et al.
Veröffentlicht: (2022) -
Continuized Nesterov Acceleration for Non-Convex Optimization
von: Hermant, Julien, et al.
Veröffentlicht: (2025) -
EMA-Nesterov: Stabilizing Nesterov's Lookahead for Accelerated Deep Learning Optimization
von: Yau, Chung-Yiu, et al.
Veröffentlicht: (2026)