SHANG++: Robust Stochastic Acceleration under Multiplicative Noise
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Yu, Yaxin, Chen, Long, Feng, Minfu |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Adam-SHANG: A Convergent Adam-Type Method for Stochastic Smooth Convex Optimization
par: Yu, Yaxin, et autres
Publié: (2026)
par: Yu, Yaxin, et autres
Publié: (2026)
Adam-HNAG: A Convergent Reformulation of Adam with Accelerated Rate
par: Yu, Yaxin, et autres
Publié: (2026)
par: Yu, Yaxin, et autres
Publié: (2026)
Accelerated Convergence of Stochastic Heavy Ball Method under Anisotropic Gradient Noise
par: Pan, Rui, et autres
Publié: (2023)
par: Pan, Rui, et autres
Publié: (2023)
Concentration of Contractive Stochastic Approximation: Additive and Multiplicative Noise
par: Chen, Zaiwei, et autres
Publié: (2023)
par: Chen, Zaiwei, et autres
Publié: (2023)
(Accelerated) Noise-adaptive Stochastic Heavy-Ball Momentum
par: Dang, Anh, et autres
Publié: (2024)
par: Dang, Anh, et autres
Publié: (2024)
Towards Noise-adaptive, Problem-adaptive (Accelerated) Stochastic Gradient Descent
par: Vaswani, Sharan, et autres
Publié: (2021)
par: Vaswani, Sharan, et autres
Publié: (2021)
Optimal Asynchronous Stochastic Nonconvex Optimization under Heavy-Tailed Noise
par: Wu, Yidong, et autres
Publié: (2026)
par: Wu, Yidong, et autres
Publié: (2026)
In-Expectation Convergence of Stochastic Gradient Methods under Heavy-Tailed Noise
par: Liu, Zijian
Publié: (2026)
par: Liu, Zijian
Publié: (2026)
Faster Convergence of Stochastic Accelerated Gradient Descent under Interpolation
par: Mishkin, Aaron, et autres
Publié: (2024)
par: Mishkin, Aaron, et autres
Publié: (2024)
An Accelerated Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness
par: Gong, Xiaochuan, et autres
Publié: (2024)
par: Gong, Xiaochuan, et autres
Publié: (2024)
Fast Stochastic Composite Minimization and an Accelerated Frank-Wolfe Algorithm under Parallelization
par: Dubois-Taine, Benjamin, et autres
Publié: (2022)
par: Dubois-Taine, Benjamin, et autres
Publié: (2022)
Nonconvex Stochastic Optimization under Heavy-Tailed Noises: Optimal Convergence without Gradient Clipping
par: Liu, Zijian, et autres
Publié: (2024)
par: Liu, Zijian, et autres
Publié: (2024)
Momentum Does Not Reduce Stochastic Noise in Stochastic Gradient Descent
par: Sato, Naoki, et autres
Publié: (2024)
par: Sato, Naoki, et autres
Publié: (2024)
Stochastic Gradients under Nuisances
par: Yu, Facheng, et autres
Publié: (2025)
par: Yu, Facheng, et autres
Publié: (2025)
From Inexact Gradients to Byzantine Robustness: Acceleration and Optimization under Similarity
par: Gaucher, Renaud, et autres
Publié: (2026)
par: Gaucher, Renaud, et autres
Publié: (2026)
Revisiting Gradient Normalization and Clipping for Nonconvex SGD under Heavy-Tailed Noise: Necessity, Sufficiency, and Acceleration
par: Sun, Tao, et autres
Publié: (2024)
par: Sun, Tao, et autres
Publié: (2024)
Algorithmic Stability of Stochastic Gradient Descent with Momentum under Heavy-Tailed Noise
par: Dang, Thanh, et autres
Publié: (2025)
par: Dang, Thanh, et autres
Publié: (2025)
Accelerated Parameter-Free Stochastic Optimization
par: Kreisler, Itai, et autres
Publié: (2024)
par: Kreisler, Itai, et autres
Publié: (2024)
Parameter Symmetry and Noise Equilibrium of Stochastic Gradient Descent
par: Ziyin, Liu, et autres
Publié: (2024)
par: Ziyin, Liu, et autres
Publié: (2024)
Gap Safe Screening Rules for Fast Training of Robust Support Vector Machines under Feature Noise
par: Nguyen, Tan-Hau, et autres
Publié: (2026)
par: Nguyen, Tan-Hau, et autres
Publié: (2026)
Stochastic Weakly Convex Optimization Under Heavy-Tailed Noises
par: Zhu, Tianxi, et autres
Publié: (2025)
par: Zhu, Tianxi, et autres
Publié: (2025)
Computing the Bias of Constant-step Stochastic Approximation with Markovian Noise
par: Allmeier, Sebastian, et autres
Publié: (2024)
par: Allmeier, Sebastian, et autres
Publié: (2024)
Decentralized Stochastic Nonconvex Optimization under the Relaxed Smoothness
par: Luo, Luo, et autres
Publié: (2025)
par: Luo, Luo, et autres
Publié: (2025)
Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
par: Wang, Menglian, et autres
Publié: (2026)
par: Wang, Menglian, et autres
Publié: (2026)
Nonlinear Stochastic Gradient Descent and Heavy-tailed Noise: A Unified Framework and High-probability Guarantees
par: Armacki, Aleksandar, et autres
Publié: (2024)
par: Armacki, Aleksandar, et autres
Publié: (2024)
Robust Out-of-Distribution Stochastic Optimization
par: Li, Xianyu, et autres
Publié: (2026)
par: Li, Xianyu, et autres
Publié: (2026)
First Order Methods with Markovian Noise: from Acceleration to Variational Inequalities
par: Beznosikov, Aleksandr, et autres
Publié: (2023)
par: Beznosikov, Aleksandr, et autres
Publié: (2023)
Stochastic Approximation with Unbounded Markovian Noise: A General-Purpose Theorem
par: Haque, Shaan Ul, et autres
Publié: (2024)
par: Haque, Shaan Ul, et autres
Publié: (2024)
Accelerated Rates between Stochastic and Adversarial Online Convex Optimization
par: Sachs, Sarah, et autres
Publié: (2023)
par: Sachs, Sarah, et autres
Publié: (2023)
Faster Stochastic Algorithms for Minimax Optimization under Polyak--Łojasiewicz Conditions
par: Chen, Lesi, et autres
Publié: (2023)
par: Chen, Lesi, et autres
Publié: (2023)
Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles
par: Forel, Alexandre, et autres
Publié: (2022)
par: Forel, Alexandre, et autres
Publié: (2022)
Optimal Rates for Robust Stochastic Convex Optimization
par: Gao, Changyu, et autres
Publié: (2024)
par: Gao, Changyu, et autres
Publié: (2024)
Almost Sure Convergence Rates and Concentration of Stochastic Approximation and Reinforcement Learning with Markovian Noise
par: Qian, Xiaochi, et autres
Publié: (2024)
par: Qian, Xiaochi, et autres
Publié: (2024)
High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise
par: Gorbunov, Eduard, et autres
Publié: (2021)
par: Gorbunov, Eduard, et autres
Publié: (2021)
Central Limit Theorem for Two-Timescale Stochastic Approximation with Markovian Noise: Theory and Applications
par: Hu, Jie, et autres
Publié: (2024)
par: Hu, Jie, et autres
Publié: (2024)
A Regularized Online Newton Method for Stochastic Convex Bandits with Linear Vanishing Noise
par: Zhan, Jingxin, et autres
Publié: (2025)
par: Zhan, Jingxin, et autres
Publié: (2025)
Stochastic Subspace Descent Accelerated via Bi-fidelity Line Search
par: Cheng, Nuojin, et autres
Publié: (2025)
par: Cheng, Nuojin, et autres
Publié: (2025)
Accelerated Stochastic Min-Max Optimization Based on Bias-corrected Momentum
par: Cai, Haoyuan, et autres
Publié: (2024)
par: Cai, Haoyuan, et autres
Publié: (2024)
Online Control of Linear Systems under Unbounded Noise
par: Ito, Kaito, et autres
Publié: (2024)
par: Ito, Kaito, et autres
Publié: (2024)
High-Probability Convergence for Composite and Distributed Stochastic Minimization and Variational Inequalities with Heavy-Tailed Noise
par: Gorbunov, Eduard, et autres
Publié: (2023)
par: Gorbunov, Eduard, et autres
Publié: (2023)
Documents similaires
-
Adam-SHANG: A Convergent Adam-Type Method for Stochastic Smooth Convex Optimization
par: Yu, Yaxin, et autres
Publié: (2026) -
Adam-HNAG: A Convergent Reformulation of Adam with Accelerated Rate
par: Yu, Yaxin, et autres
Publié: (2026) -
Accelerated Convergence of Stochastic Heavy Ball Method under Anisotropic Gradient Noise
par: Pan, Rui, et autres
Publié: (2023) -
Concentration of Contractive Stochastic Approximation: Additive and Multiplicative Noise
par: Chen, Zaiwei, et autres
Publié: (2023) -
(Accelerated) Noise-adaptive Stochastic Heavy-Ball Momentum
par: Dang, Anh, et autres
Publié: (2024)