High-Probability Guarantees for Random Zeroth-Order (Stochastic) Gradient Descent
Fuente:
arXiv
Gespeichert in:
| 1. Verfasser: | Ye, Haishan |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
High-Probability Guarantees for Random Zeroth-Order Gradient Descent on Smooth Functions
von: Ye, Haishan
Veröffentlicht: (2026)
von: Ye, Haishan
Veröffentlicht: (2026)
A Unified Zeroth-Order Optimization Framework via Oblivious Randomized Sketching
von: Ye, Haishan, et al.
Veröffentlicht: (2025)
von: Ye, Haishan, et al.
Veröffentlicht: (2025)
Why Does Adaptive Zeroth-Order Optimization Work?
von: Ye, Haishan, et al.
Veröffentlicht: (2026)
von: Ye, Haishan, et al.
Veröffentlicht: (2026)
Explicit and Non-asymptotic Query Complexities of Rank-Based Zeroth-order Algorithm on Stochastic Smooth Functions
von: Ye, Haishan
Veröffentlicht: (2025)
von: Ye, Haishan
Veröffentlicht: (2025)
On the Inherent Privacy of Zeroth Order Projected Gradient Descent
von: Gupta, Devansh, et al.
Veröffentlicht: (2025)
von: Gupta, Devansh, et al.
Veröffentlicht: (2025)
Can a One-Point Feedback Zeroth-order Algorithm Achieve Linear Dimension Dependent Sample Complexity?
von: Ye, Haishan, et al.
Veröffentlicht: (2025)
von: Ye, Haishan, et al.
Veröffentlicht: (2025)
High Probability Convergence of Distributed Clipped Stochastic Gradient Descent with Heavy-tailed Noise
von: Yang, Yuchen, et al.
Veröffentlicht: (2025)
von: Yang, Yuchen, et al.
Veröffentlicht: (2025)
Zeroth-Order Stochastic Mirror Descent Algorithms for Minimax Excess Risk Optimization
von: Gu, Zhihao, et al.
Veröffentlicht: (2024)
von: Gu, Zhihao, et al.
Veröffentlicht: (2024)
High Probability Convergence Bounds for Non-convex Stochastic Gradient Descent with Sub-Weibull Noise
von: Madden, Liam, et al.
Veröffentlicht: (2020)
von: Madden, Liam, et al.
Veröffentlicht: (2020)
Stochastic Zeroth order Descent with Structured Directions
von: Rando, Marco, et al.
Veröffentlicht: (2022)
von: Rando, Marco, et al.
Veröffentlicht: (2022)
On the Resolution of Stochastic MPECs over Networks: Distributed Implicit Zeroth-Order Gradient Tracking Methods
von: Ebrahimi, Mohammadjavad, et al.
Veröffentlicht: (2025)
von: Ebrahimi, Mohammadjavad, et al.
Veröffentlicht: (2025)
Robust Analysis of Almost Sure Convergence of Zeroth-Order Mirror Descent Algorithm
von: Paul, Anik Kumar, et al.
Veröffentlicht: (2023)
von: Paul, Anik Kumar, et al.
Veröffentlicht: (2023)
Stochastic Regret Guarantees for Online Zeroth- and First-Order Bilevel Optimization
von: Nazari, Parvin, et al.
Veröffentlicht: (2025)
von: Nazari, Parvin, et al.
Veröffentlicht: (2025)
Nonlinear Stochastic Gradient Descent and Heavy-tailed Noise: A Unified Framework and High-probability Guarantees
von: Armacki, Aleksandar, et al.
Veröffentlicht: (2024)
von: Armacki, Aleksandar, et al.
Veröffentlicht: (2024)
Stochastic Zeroth-Order Optimization Under Heavy-Tailed Noise
von: Bakkali, Taha El, et al.
Veröffentlicht: (2026)
von: Bakkali, Taha El, et al.
Veröffentlicht: (2026)
Compressed Zeroth-Order Algorithm for Stochastic Distributed Nonconvex Optimization
von: Wang, Haonan, et al.
Veröffentlicht: (2025)
von: Wang, Haonan, et al.
Veröffentlicht: (2025)
Negative Curvature Methods with High-Probability Complexity Guarantees for Stochastic Nonconvex Optimization
von: Berahas, Albert S., et al.
Veröffentlicht: (2026)
von: Berahas, Albert S., et al.
Veröffentlicht: (2026)
General Procedure to Provide High-Probability Guarantees for Stochastic Saddle Point Problems
von: Li, Dongyang, et al.
Veröffentlicht: (2024)
von: Li, Dongyang, et al.
Veröffentlicht: (2024)
A Zeroth-order Proximal Stochastic Gradient Method for Weakly Convex Stochastic Optimization
von: Pougkakiotis, Spyridon, et al.
Veröffentlicht: (2022)
von: Pougkakiotis, Spyridon, et al.
Veröffentlicht: (2022)
Distributed Zeroth-Order Optimization with Rademacher Perturbations and Momentum Gradient Tracking
von: Su, Yanxu, et al.
Veröffentlicht: (2026)
von: Su, Yanxu, et al.
Veröffentlicht: (2026)
Fully Adaptive Zeroth-Order Method for Minimizing Functions with Compressible Gradients
von: Grapiglia, Geovani Nunes, et al.
Veröffentlicht: (2025)
von: Grapiglia, Geovani Nunes, et al.
Veröffentlicht: (2025)
Inexact Zeroth-Order Nonsmooth and Nonconvex Stochastic Composite Optimization and Applications
von: Pougkakiotis, Spyridon, et al.
Veröffentlicht: (2025)
von: Pougkakiotis, Spyridon, et al.
Veröffentlicht: (2025)
Random-Subspace Sequential Quadratic Programming for Constrained Zeroth-Order Optimization
von: Zhang, Runyu, et al.
Veröffentlicht: (2026)
von: Zhang, Runyu, et al.
Veröffentlicht: (2026)
Stochastic Adaptive Gradient Descent Without Descent
von: Aujol, Jean-François, et al.
Veröffentlicht: (2025)
von: Aujol, Jean-François, et al.
Veröffentlicht: (2025)
Distributed Stochastic Zeroth-Order Optimization with Compressed Communication
von: Hua, Youqing, et al.
Veröffentlicht: (2025)
von: Hua, Youqing, et al.
Veröffentlicht: (2025)
Continuous-Time Zeroth-Order Dynamics with Projection Maps: Model-Free Feedback Optimization with Safety Guarantees
von: Chen, Xin, et al.
Veröffentlicht: (2023)
von: Chen, Xin, et al.
Veröffentlicht: (2023)
A Zeroth-Order Extra-Gradient Method for Black-Box Constrained Optimization
von: Zhou, Yuke, et al.
Veröffentlicht: (2025)
von: Zhou, Yuke, et al.
Veröffentlicht: (2025)
Accelerating Single-Point Zeroth-Order Optimization with Regression-Based Gradient Surrogates
von: Chen, Xin, et al.
Veröffentlicht: (2025)
von: Chen, Xin, et al.
Veröffentlicht: (2025)
Zeroth-order Gradient and Quasi-Newton Methods for Nonsmooth Nonconvex Stochastic Optimization
von: Marrinan, Luke, et al.
Veröffentlicht: (2023)
von: Marrinan, Luke, et al.
Veröffentlicht: (2023)
A Parameter-Free Zeroth-Order Algorithm for Decentralized Stochastic Convex Optimization
von: Chen, Jiawei, et al.
Veröffentlicht: (2026)
von: Chen, Jiawei, et al.
Veröffentlicht: (2026)
Zeroth-Order Federated Methods for Stochastic MPECs and Nondifferentiable Nonconvex Hierarchical Optimization
von: Qiu, Yuyang, et al.
Veröffentlicht: (2023)
von: Qiu, Yuyang, et al.
Veröffentlicht: (2023)
First and Second Order Approximations to Stochastic Gradient Descent Methods with Momentum Terms
von: Lu, Eric
Veröffentlicht: (2025)
von: Lu, Eric
Veröffentlicht: (2025)
Zeroth-Order Hard-Thresholding: Gradient Error vs. Expansivity
von: de Vazelhes, William, et al.
Veröffentlicht: (2022)
von: de Vazelhes, William, et al.
Veröffentlicht: (2022)
Variance-Reduced Gradient Estimator for Nonconvex Zeroth-Order Distributed Optimization
von: Mu, Huaiyi, et al.
Veröffentlicht: (2024)
von: Mu, Huaiyi, et al.
Veröffentlicht: (2024)
Zeroth-Order Methods for Stochastic Nonconvex Nonsmooth Composite Optimization
von: Chen, Ziyi, et al.
Veröffentlicht: (2025)
von: Chen, Ziyi, et al.
Veröffentlicht: (2025)
Stochastic Zeroth-Order Method for Computing Generalized Rayleigh Quotients
von: Bresch, Jonas, et al.
Veröffentlicht: (2025)
von: Bresch, Jonas, et al.
Veröffentlicht: (2025)
A Parameter-Free and Near-Optimal Zeroth-Order Algorithm for Stochastic Convex Optimization
von: Ren, Kunjie, et al.
Veröffentlicht: (2025)
von: Ren, Kunjie, et al.
Veröffentlicht: (2025)
Online Distributed Optimization with Clipped Stochastic Gradients: High Probability Bound of Regrets
von: Yang, Yuchen, et al.
Veröffentlicht: (2024)
von: Yang, Yuchen, et al.
Veröffentlicht: (2024)
Stochastic Modified Equations for Stochastic Gradient Descent in Infinite-Dimensional Hilbert Spaces
von: Cerrai, Sandra, et al.
Veröffentlicht: (2026)
von: Cerrai, Sandra, et al.
Veröffentlicht: (2026)
More Optimal Fractional-Order Stochastic Gradient Descent for Non-Convex Optimization Problems
von: Partohaghighi, Mohammad, et al.
Veröffentlicht: (2025)
von: Partohaghighi, Mohammad, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
High-Probability Guarantees for Random Zeroth-Order Gradient Descent on Smooth Functions
von: Ye, Haishan
Veröffentlicht: (2026) -
A Unified Zeroth-Order Optimization Framework via Oblivious Randomized Sketching
von: Ye, Haishan, et al.
Veröffentlicht: (2025) -
Why Does Adaptive Zeroth-Order Optimization Work?
von: Ye, Haishan, et al.
Veröffentlicht: (2026) -
Explicit and Non-asymptotic Query Complexities of Rank-Based Zeroth-order Algorithm on Stochastic Smooth Functions
von: Ye, Haishan
Veröffentlicht: (2025) -
On the Inherent Privacy of Zeroth Order Projected Gradient Descent
von: Gupta, Devansh, et al.
Veröffentlicht: (2025)