Salvato in:
| Autore principale: | Chayti, El Mahdi |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2602.06824 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Stochastic Compositional Optimization via Hybrid Momentum Frank--Wolfe
di: Chayti, El Mahdi
Pubblicazione: (2026)
di: Chayti, El Mahdi
Pubblicazione: (2026)
A Split-Client Approach to Second-Order Optimization
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025)
Stochastic Difference-of-Convex Optimization with Momentum
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025)
Improving Stochastic Cubic Newton with Momentum
di: Chayti, El Mahdi, et al.
Pubblicazione: (2024)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2024)
A New First-Order Meta-Learning Algorithm with Convergence Guarantees
di: Chayti, El Mahdi, et al.
Pubblicazione: (2024)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2024)
Stochastic Optimization with Random Search
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025)
Optimization with Access to Auxiliary Information
di: Chayti, El Mahdi, et al.
Pubblicazione: (2022)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2022)
Faster Gradient Methods for Highly-Smooth Stochastic Bilevel Optimization
di: Chen, Lesi, et al.
Pubblicazione: (2025)
di: Chen, Lesi, et al.
Pubblicazione: (2025)
Unified Convergence Theory of Stochastic and Variance-Reduced Cubic Newton Methods
di: Chayti, El Mahdi, et al.
Pubblicazione: (2023)
di: Chayti, El Mahdi, et al.
Pubblicazione: (2023)
Nonsmooth Optimization with Zeroth Order Comparison Feedback
di: Bakkali, Taha El, et al.
Pubblicazione: (2026)
di: Bakkali, Taha El, et al.
Pubblicazione: (2026)
Random Scaling and Momentum for Non-smooth Non-convex Optimization
di: Zhang, Qinzi, et al.
Pubblicazione: (2024)
di: Zhang, Qinzi, et al.
Pubblicazione: (2024)
Policy Gradient with Second Order Momentum
di: Sun, Tianyu
Pubblicazione: (2025)
di: Sun, Tianyu
Pubblicazione: (2025)
AdaFisher: Adaptive Second Order Optimization via Fisher Information
di: Gomes, Damien Martins, et al.
Pubblicazione: (2024)
di: Gomes, Damien Martins, et al.
Pubblicazione: (2024)
Better LMO-based Momentum Methods with Second-Order Information
di: Khirirat, Sarit, et al.
Pubblicazione: (2025)
di: Khirirat, Sarit, et al.
Pubblicazione: (2025)
Stochastic Zeroth-Order Optimization Under Heavy-Tailed Noise
di: Bakkali, Taha El, et al.
Pubblicazione: (2026)
di: Bakkali, Taha El, et al.
Pubblicazione: (2026)
First and Second Order Approximations to Stochastic Gradient Descent Methods with Momentum Terms
di: Lu, Eric
Pubblicazione: (2025)
di: Lu, Eric
Pubblicazione: (2025)
Unconstrained Robust Online Convex Optimization
di: Zhang, Jiujia, et al.
Pubblicazione: (2025)
di: Zhang, Jiujia, et al.
Pubblicazione: (2025)
Leveraging Coordinate Momentum in SignSGD and Muon: Memory-Optimized Zero-Order
di: Petrov, Egor, et al.
Pubblicazione: (2025)
di: Petrov, Egor, et al.
Pubblicazione: (2025)
First-Order Methods for Linearly Constrained Bilevel Optimization
di: Kornowski, Guy, et al.
Pubblicazione: (2024)
di: Kornowski, Guy, et al.
Pubblicazione: (2024)
Double Momentum Method for Lower-Level Constrained Bilevel Optimization
di: Shi, Wanli, et al.
Pubblicazione: (2024)
di: Shi, Wanli, et al.
Pubblicazione: (2024)
Fully Unconstrained Online Learning
di: Cutkosky, Ashok, et al.
Pubblicazione: (2024)
di: Cutkosky, Ashok, et al.
Pubblicazione: (2024)
Near-Optimal Distributed Minimax Optimization under the Second-Order Similarity
di: Zhou, Qihao, et al.
Pubblicazione: (2024)
di: Zhou, Qihao, et al.
Pubblicazione: (2024)
Randomized Feasibility Methods for Constrained Optimization with Adaptive Step Sizes
di: Chakraborty, Abhishek, et al.
Pubblicazione: (2026)
di: Chakraborty, Abhishek, et al.
Pubblicazione: (2026)
Towards Practical Second-Order Optimizers in Deep Learning: Insights from Fisher Information Analysis
di: Gomes, Damien Martins
Pubblicazione: (2025)
di: Gomes, Damien Martins
Pubblicazione: (2025)
Logarithmic-time Schedules for Scaling Language Models with Momentum
di: Ferbach, Damien, et al.
Pubblicazione: (2026)
di: Ferbach, Damien, et al.
Pubblicazione: (2026)
Shuffling Momentum Gradient Algorithm for Convex Optimization
di: Tran, Trang H., et al.
Pubblicazione: (2024)
di: Tran, Trang H., et al.
Pubblicazione: (2024)
Penalty-Based First-Order Methods for Bilevel Optimization with Minimax and Constrained Lower-Level Problems
di: Shen, Yiyang, et al.
Pubblicazione: (2026)
di: Shen, Yiyang, et al.
Pubblicazione: (2026)
An Energy-Based Self-Adaptive Learning Rate for Stochastic Gradient Descent: Enhancing Unconstrained Optimization with VAV method
di: Zhang, Jiahao, et al.
Pubblicazione: (2024)
di: Zhang, Jiahao, et al.
Pubblicazione: (2024)
Momentum Further Constrains Sharpness at the Edge of Stochastic Stability
di: Andreyev, Arseniy, et al.
Pubblicazione: (2026)
di: Andreyev, Arseniy, et al.
Pubblicazione: (2026)
Adaptive Optimization via Momentum on Variance-Normalized Gradients
di: Patitucci, Francisco, et al.
Pubblicazione: (2026)
di: Patitucci, Francisco, et al.
Pubblicazione: (2026)
On the Provable Suboptimality of Momentum SGD in Nonstationary Stochastic Optimization
di: Sahu, Sharan, et al.
Pubblicazione: (2026)
di: Sahu, Sharan, et al.
Pubblicazione: (2026)
Non-convex Stochastic Composite Optimization with Polyak Momentum
di: Gao, Yuan, et al.
Pubblicazione: (2024)
di: Gao, Yuan, et al.
Pubblicazione: (2024)
Muon with Nesterov Momentum: Heavy-Tailed Noise and (Randomized) Inexact Polar Decomposition
di: Choudhury, Sayantan, et al.
Pubblicazione: (2026)
di: Choudhury, Sayantan, et al.
Pubblicazione: (2026)
A Second-Order Majorant Algorithm for Nonnegative Matrix Factorization
di: Pham, Mai-Quyen, et al.
Pubblicazione: (2023)
di: Pham, Mai-Quyen, et al.
Pubblicazione: (2023)
Compressed Decentralized Momentum Stochastic Gradient Methods for Nonconvex Optimization
di: Liu, Wei, et al.
Pubblicazione: (2025)
di: Liu, Wei, et al.
Pubblicazione: (2025)
Enhancing Optimizer Stability: Momentum Adaptation of The NGN Step-size
di: Islamov, Rustem, et al.
Pubblicazione: (2025)
di: Islamov, Rustem, et al.
Pubblicazione: (2025)
Fast Unconstrained Optimization via Hessian Averaging and Adaptive Gradient Sampling Methods
di: O'Leary-Roseberry, Thomas, et al.
Pubblicazione: (2024)
di: O'Leary-Roseberry, Thomas, et al.
Pubblicazione: (2024)
Logarithmic Regret for Unconstrained Submodular Maximization Stochastic Bandit
di: Zhou, Julien, et al.
Pubblicazione: (2024)
di: Zhou, Julien, et al.
Pubblicazione: (2024)
Online Statistical Inference of Constrained Stochastic Optimization via Random Scaling
di: Du, Xinchen, et al.
Pubblicazione: (2025)
di: Du, Xinchen, et al.
Pubblicazione: (2025)
Don't Be So Positive: Negative Step Sizes in Second-Order Methods
di: Shea, Betty, et al.
Pubblicazione: (2024)
di: Shea, Betty, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Stochastic Compositional Optimization via Hybrid Momentum Frank--Wolfe
di: Chayti, El Mahdi
Pubblicazione: (2026) -
A Split-Client Approach to Second-Order Optimization
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025) -
Stochastic Difference-of-Convex Optimization with Momentum
di: Chayti, El Mahdi, et al.
Pubblicazione: (2025) -
Improving Stochastic Cubic Newton with Momentum
di: Chayti, El Mahdi, et al.
Pubblicazione: (2024) -
A New First-Order Meta-Learning Algorithm with Convergence Guarantees
di: Chayti, El Mahdi, et al.
Pubblicazione: (2024)