Buchumschlag

Accelerating Decentralized Optimization via Overlapping Local Steps

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhou, Yijie, Pu, Shi
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Asynchronous Decentralized SGD under Non-Convexity: A Block-Coordinate Descent Framework
von: Zhou, Yijie, et al.
Veröffentlicht: (2025)

DCatalyst: A Unified Accelerated Framework for Decentralized Optimization
von: Cao, Tianyu, et al.
Veröffentlicht: (2025)

Accelerated Gradient Tracking over Time-varying Graphs for Decentralized Optimization
von: Li, Huan, et al.
Veröffentlicht: (2021)

NeST-BO: Fast Local Bayesian Optimization via Newton-Step Targeting of Gradient and Hessian Information
von: Tang, Wei-Ting, et al.
Veröffentlicht: (2025)

Decentralized Sum-of-Nonconvex Optimization
von: Liu, Zhuanghua, et al.
Veröffentlicht: (2024)

A Proximal Gradient Method With Probabilistic Multi-Gossip Communications for Decentralized Composite Optimization
von: Guo, Luyao, et al.
Veröffentlicht: (2023)

Accelerating Distributed Optimization: A Primal-Dual Perspective on Local Steps
von: Yang, Junchi, et al.
Veröffentlicht: (2024)

Methods with Local Steps and Random Reshuffling for Generally Smooth Non-Convex Federated Optimization
von: Demidovich, Yury, et al.
Veröffentlicht: (2024)

Understanding Outer Optimizers in Local SGD: Learning Rates, Momentum, and Acceleration
von: Khaled, Ahmed, et al.
Veröffentlicht: (2025)

Accelerating Optimization via Differentiable Stopping Time
von: Xie, Zhonglin, et al.
Veröffentlicht: (2025)

TAMUNA: Doubly Accelerated Distributed Optimization with Local Training, Compression, and Partial Participation
von: Condat, Laurent, et al.
Veröffentlicht: (2023)

Problem-Parameter-Free Decentralized Bilevel Optimization
von: Zhai, Zhiwei, et al.
Veröffentlicht: (2025)

Series Expansion of Probability of Correct Selection for Improved Finite Budget Allocation in Ranking and Selection
von: Shi, Xinbo, et al.
Veröffentlicht: (2024)

The Effectiveness of Local Updates for Decentralized Learning under Data Heterogeneity
von: Wu, Tongle, et al.
Veröffentlicht: (2024)

Decentralized Non-convex Stochastic Optimization with Heterogeneous Variance
von: Chen, Hongxu, et al.
Veröffentlicht: (2026)

Learning-Augmented Decentralized Online Convex Optimization in Networks
von: Li, Pengfei, et al.
Veröffentlicht: (2023)

Decentralized Stochastic Nonconvex Optimization under the Relaxed Smoothness
von: Luo, Luo, et al.
Veröffentlicht: (2025)

Exploiting Similarity for Computation and Communication-Efficient Decentralized Optimization
von: Takezawa, Yuki, et al.
Veröffentlicht: (2025)

On the Complexity of Decentralized Smooth Nonconvex Finite-Sum Optimization
von: Luo, Luo, et al.
Veröffentlicht: (2022)

Stochastic Approximation Methods for Distortion Risk Measure Optimization
von: Jiang, Jinyang, et al.
Veröffentlicht: (2025)

Distributed Learning over Arbitrary Topology: Linear Speed-Up with Polynomial Transient Time
von: You, Runze, et al.
Veröffentlicht: (2025)

FedSUM Family: Efficient Federated Learning Methods under Arbitrary Client Participation
von: You, Runze, et al.
Veröffentlicht: (2025)

Compressed Decentralized Momentum Stochastic Gradient Methods for Nonconvex Optimization
von: Liu, Wei, et al.
Veröffentlicht: (2025)

Retraction-Free Decentralized Non-convex Optimization with Orthogonal Constraints
von: Sun, Youbang, et al.
Veröffentlicht: (2024)

Efficient Sign-Based Optimization: Accelerating Convergence via Variance Reduction
von: Jiang, Wei, et al.
Veröffentlicht: (2024)

Decentralized Optimization on Compact Submanifolds by Quantized Riemannian Gradient Tracking
von: Chen, Jun, et al.
Veröffentlicht: (2025)

Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
von: Wang, Menglian, et al.
Veröffentlicht: (2026)

An Efficient Stochastic Algorithm for Decentralized Nonconvex-Strongly-Concave Minimax Optimization
von: Chen, Lesi, et al.
Veröffentlicht: (2022)

Decentralized Bilevel Optimization: A Perspective from Transient Iteration Complexity
von: Kong, Boao, et al.
Veröffentlicht: (2024)

Local LMO: Constrained Gradient Optimization via a Local Linear Minimization Oracle
von: Richtárik, Peter, et al.
Veröffentlicht: (2026)

Hamiltonian Descent Algorithms for Optimization: Accelerated Rates via Randomized Integration Time
von: Fu, Qiang, et al.
Veröffentlicht: (2025)

Constrained Online Convex Optimization with Polyak Feasibility Steps
von: Hutchinson, Spencer, et al.
Veröffentlicht: (2025)

Compressed Proximal Federated Learning for Non-Convex Composite Optimization on Heterogeneous Data
von: Qiu, Pu, et al.
Veröffentlicht: (2026)

Online Optimization Perspective on First-Order and Zero-Order Decentralized Nonsmooth Nonconvex Stochastic Optimization
von: Sahinoglu, Emre, et al.
Veröffentlicht: (2024)

Adaptive Decentralized Composite Optimization via Three-Operator Splitting
von: Chen, Xiaokai, et al.
Veröffentlicht: (2026)

Provably Convergent Decentralized Optimization over Directed Graphs under Generalized Smoothness
von: Bo, Yanan, et al.
Veröffentlicht: (2026)

Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs
von: Liang, Yifei, et al.
Veröffentlicht: (2026)

Decentralized Multi-Task Online Convex Optimization Under Random Link Failures
von: Yan, Wenjing, et al.
Veröffentlicht: (2024)

Accelerated Parameter-Free Stochastic Optimization
von: Kreisler, Itai, et al.
Veröffentlicht: (2024)

Randomized Feasibility Methods for Constrained Optimization with Adaptive Step Sizes
von: Chakraborty, Abhishek, et al.
Veröffentlicht: (2026)