Adaptive Polyak Stepsize with Level-value Adjustment for Distributed Optimization
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Ouyang, Chen, Xiong, Yongyang, Xu, Jinming, You, Keyou, Shi, Yang |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Heterogeneous Stochastic Momentum ADMM for Distributed Nonconvex Composite Optimization
par: Zhang, Yangming, et autres
Publié: (2026)
par: Zhang, Yangming, et autres
Publié: (2026)
Loopless Proximal Riemannian Gradient EXTRA for Distributed Optimization on Compact Manifolds
par: Xiong, Yongyang, et autres
Publié: (2026)
par: Xiong, Yongyang, et autres
Publié: (2026)
Accelerating Level-Value Adjustment for the Polyak Stepsize
par: Liu, Anbang, et autres
Publié: (2023)
par: Liu, Anbang, et autres
Publié: (2023)
Compressed Proximal Federated Learning for Non-Convex Composite Optimization on Heterogeneous Data
par: Qiu, Pu, et autres
Publié: (2026)
par: Qiu, Pu, et autres
Publié: (2026)
Dynamics of SGD with Stochastic Polyak Stepsizes: Truly Adaptive Variants and Convergence to Exact Solution
par: Orvieto, Antonio, et autres
Publié: (2022)
par: Orvieto, Antonio, et autres
Publié: (2022)
Adaptive SGD with Line-Search and Polyak Stepsizes: Nonconvex Convergence and Accelerated Rates
par: Wu, Haotian
Publié: (2025)
par: Wu, Haotian
Publié: (2025)
Achieving Near-Optimal Convergence for Distributed Minimax Optimization with Adaptive Stepsizes
par: Huang, Yan, et autres
Publié: (2024)
par: Huang, Yan, et autres
Publié: (2024)
Polyak Stepsize: Estimating Optimal Functional Values Without Parameters or Prior Knowledge
par: Abdukhakimov, Farshed, et autres
Publié: (2025)
par: Abdukhakimov, Farshed, et autres
Publié: (2025)
New Results on the Polyak Stepsize: Tight Convergence Analysis and Universal Function Classes
par: He, Chang, et autres
Publié: (2025)
par: He, Chang, et autres
Publié: (2025)
New Perspectives on the Polyak Stepsize: Surrogate Functions and Negative Results
par: Orabona, Francesco, et autres
Publié: (2025)
par: Orabona, Francesco, et autres
Publié: (2025)
Adaptive Stepsize Selection in Decentralized Convex Optimization
par: Kuruzov, Ilya, et autres
Publié: (2025)
par: Kuruzov, Ilya, et autres
Publié: (2025)
Direct Data-Driven Linear Quadratic Tracking via Policy Optimization
par: Kang, Shubo, et autres
Publié: (2026)
par: Kang, Shubo, et autres
Publié: (2026)
Data-Enabled Policy Optimization for Direct Adaptive Learning of the LQR
par: Zhao, Feiran, et autres
Publié: (2024)
par: Zhao, Feiran, et autres
Publié: (2024)
Quantized Distributed Nonconvex Optimization Algorithms with Linear Convergence under the Polyak--$Ł$ojasiewicz Condition
par: Xu, Lei, et autres
Publié: (2022)
par: Xu, Lei, et autres
Publié: (2022)
Linear Convergence of Data-Enabled Policy Optimization for Linear Quadratic Tracking
par: Kang, Shubo, et autres
Publié: (2024)
par: Kang, Shubo, et autres
Publié: (2024)
Reliably Learn to Trim Multiparametric Quadratic Programs via Constraint Removal
par: Hou, Zhinan, et autres
Publié: (2024)
par: Hou, Zhinan, et autres
Publié: (2024)
Policy Gradient Methods for the Cost-Constrained LQR: Strong Duality and Global Convergence
par: Zhao, Feiran, et autres
Publié: (2024)
par: Zhao, Feiran, et autres
Publié: (2024)
Generalization of Silver Stepsize Schedule to Stochastic Optimization
par: Bai, Luwei, et autres
Publié: (2025)
par: Bai, Luwei, et autres
Publié: (2025)
Distributed Optimization and Learning for Automated Stepsize Selection with Finite Time Coordination
par: Rikos, Apostolos I., et autres
Publié: (2025)
par: Rikos, Apostolos I., et autres
Publié: (2025)
Acceleration by Stepsize Hedging II: Silver Stepsize Schedule for Smooth Convex Optimization
par: Altschuler, Jason M., et autres
Publié: (2023)
par: Altschuler, Jason M., et autres
Publié: (2023)
Direct Adaptive Control of Grid-Connected Power Converters via Output-Feedback Data-Enabled Policy Optimization
par: Zhao, Feiran, et autres
Publié: (2024)
par: Zhao, Feiran, et autres
Publié: (2024)
Polyak Minorant Method for Convex Optimization
par: Devanathan, Nikhil, et autres
Publié: (2023)
par: Devanathan, Nikhil, et autres
Publié: (2023)
ReLU Networks for Model Predictive Control: Network Complexity and Performance Guarantees
par: Li, Xingchen, et autres
Publié: (2026)
par: Li, Xingchen, et autres
Publié: (2026)
Composing Optimized Stepsize Schedules for Gradient Descent
par: Grimmer, Benjamin, et autres
Publié: (2024)
par: Grimmer, Benjamin, et autres
Publié: (2024)
Asynchronous Parallel Policy Gradient Methods for the Linear Quadratic Regulator
par: Sha, Xingyu, et autres
Publié: (2024)
par: Sha, Xingyu, et autres
Publié: (2024)
MARINA-P: Superior Performance in Non-smooth Federated Optimization with Adaptive Stepsizes
par: Sokolov, Igor, et autres
Publié: (2024)
par: Sokolov, Igor, et autres
Publié: (2024)
Hessian-Free Distributed Bilevel Optimization via Penalization with Time-Scale Separation
par: Niu, Youcheng, et autres
Publié: (2024)
par: Niu, Youcheng, et autres
Publié: (2024)
Stochastic Block Bregman Projection with Polyak-like Stepsize for Possibly Inconsistent Convex Feasibility Problems
par: Zhang, Lu, et autres
Publié: (2026)
par: Zhang, Lu, et autres
Publié: (2026)
Variance Reduced Distributed Non-Convex Optimization Using Matrix Stepsizes
par: Li, Hanmin, et autres
Publié: (2023)
par: Li, Hanmin, et autres
Publié: (2023)
Data-Driven Output Prediction and Control of Stochastic Systems: An Innovation-Based Approach
par: Wang, Yibo, et autres
Publié: (2022)
par: Wang, Yibo, et autres
Publié: (2022)
Distributed Stochastic Bilevel Optimization: Improved Complexity and Heterogeneity Analysis
par: Niu, Youcheng, et autres
Publié: (2023)
par: Niu, Youcheng, et autres
Publié: (2023)
Cutting Some Slack for SGD with Adaptive Polyak Stepsizes
par: Gower, Robert M., et autres
Publié: (2022)
par: Gower, Robert M., et autres
Publié: (2022)
Faster Stochastic Algorithms for Minimax Optimization under Polyak--Łojasiewicz Conditions
par: Chen, Lesi, et autres
Publié: (2023)
par: Chen, Lesi, et autres
Publié: (2023)
Constrained Online Convex Optimization with Polyak Feasibility Steps
par: Hutchinson, Spencer, et autres
Publié: (2025)
par: Hutchinson, Spencer, et autres
Publié: (2025)
Non-convex Stochastic Composite Optimization with Polyak Momentum
par: Gao, Yuan, et autres
Publié: (2024)
par: Gao, Yuan, et autres
Publié: (2024)
AdaGrad Meets Muon: Adaptive Stepsizes for Orthogonal Updates
par: Zhang, Minxin, et autres
Publié: (2025)
par: Zhang, Minxin, et autres
Publié: (2025)
Constant Stepsize Q-learning: Distributional Convergence, Bias and Extrapolation
par: Zhang, Yixuan, et autres
Publié: (2024)
par: Zhang, Yixuan, et autres
Publié: (2024)
Universality of AdaGrad Stepsizes for Stochastic Optimization: Inexact Oracle, Acceleration and Variance Reduction
par: Rodomanov, Anton, et autres
Publié: (2024)
par: Rodomanov, Anton, et autres
Publié: (2024)
Accelerated Gradient Descent by Concatenation of Stepsize Schedules
par: Zhang, Zehao, et autres
Publié: (2024)
par: Zhang, Zehao, et autres
Publié: (2024)
An Adaptive Stochastic Gradient Method with Non-negative Gauss-Newton Stepsizes
par: Orvieto, Antonio, et autres
Publié: (2024)
par: Orvieto, Antonio, et autres
Publié: (2024)
Documents similaires
-
Heterogeneous Stochastic Momentum ADMM for Distributed Nonconvex Composite Optimization
par: Zhang, Yangming, et autres
Publié: (2026) -
Loopless Proximal Riemannian Gradient EXTRA for Distributed Optimization on Compact Manifolds
par: Xiong, Yongyang, et autres
Publié: (2026) -
Accelerating Level-Value Adjustment for the Polyak Stepsize
par: Liu, Anbang, et autres
Publié: (2023) -
Compressed Proximal Federated Learning for Non-Convex Composite Optimization on Heterogeneous Data
par: Qiu, Pu, et autres
Publié: (2026) -
Dynamics of SGD with Stochastic Polyak Stepsizes: Truly Adaptive Variants and Convergence to Exact Solution
par: Orvieto, Antonio, et autres
Publié: (2022)