Buchumschlag

A Stochastic Approximation Approach for Efficient Decentralized Optimization on Random Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yau, Chung-Yiu, Liu, Haoming, Wai, Hoi-To
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Optimization and Control Distributed, Parallel, and Cluster Computing Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Communication-Efficient Federated Optimization over Semi-Decentralized Networks
von: Wang, He, et al.
Veröffentlicht: (2023)

A Bias-Correction Decentralized Stochastic Gradient Algorithm with Momentum Acceleration
von: Hu, Yuchen, et al.
Veröffentlicht: (2025)

A Double Tracking Method for Optimization with Decentralized Generalized Orthogonality Constraints
von: Wang, Lei, et al.
Veröffentlicht: (2024)

A Single-Loop Algorithm for Decentralized Bilevel Optimization
von: Dong, Youran, et al.
Veröffentlicht: (2023)

A Penalty-Based Method for Communication-Efficient Decentralized Bilevel Programming
von: Nazari, Parvin, et al.
Veröffentlicht: (2022)

S$^3$LDBO: A Snapshot Single-Loop Algorithm for Decentralized Bilevel Optimization
von: Yin, Chao, et al.
Veröffentlicht: (2026)

A Hybrid Stochastic Gradient Tracking Method for Distributed Online Optimization Over Time-Varying Directed Networks
von: Shi, Xinli, et al.
Veröffentlicht: (2025)

Convergence of Sign-based Random Reshuffling Algorithms for Nonconvex Optimization
von: Qin, Zhen, et al.
Veröffentlicht: (2023)

Optimizing Stochastic Gradient Push under Broadcast Communications
von: Nguyen, Tuan, et al.
Veröffentlicht: (2026)

Decentralized Directed Collaboration for Personalized Federated Learning
von: Liu, Yingqi, et al.
Veröffentlicht: (2024)

Problem-Parameter-Free Decentralized Nonconvex Stochastic Optimization
von: Li, Jiaxiang, et al.
Veröffentlicht: (2024)

A Communication and Computation Efficient Fully First-order Method for Decentralized Bilevel Optimization
von: Wen, Min, et al.
Veröffentlicht: (2024)

Lower Bounds and Accelerated Algorithms in Distributed Stochastic Optimization with Communication Compression
von: He, Yutong, et al.
Veröffentlicht: (2023)

Rate Analysis of Coupled Distributed Stochastic Approximation for Misspecified Optimization
von: Yang, Yaqun, et al.
Veröffentlicht: (2024)

Efficient Adaptive Federated Optimization
von: Lee, Su Hyeong, et al.
Veröffentlicht: (2024)

BROADCAST: Reducing Both Stochastic and Compression Noise to Robustify Communication-Efficient Federated Learning
von: Zhu, Heng, et al.
Veröffentlicht: (2021)

HiGrad: Uncertainty Quantification for Online Learning and Stochastic Approximation
von: Su, Weijie J., et al.
Veröffentlicht: (2018)

Energy-efficient Decentralized Learning via Graph Sparsification
von: Zhang, Xusheng, et al.
Veröffentlicht: (2024)

Decentralized Personalized Federated Learning for Min-Max Problems
von: Borodich, Ekaterina, et al.
Veröffentlicht: (2021)

Rennala MVR: Improved Time Complexity for Parallel Stochastic Optimization via Momentum-Based Variance Reduction
von: Tovmasyan, Zhirayr, et al.
Veröffentlicht: (2026)

Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum
von: Zhou, Yuan, et al.
Veröffentlicht: (2025)

Decentralized Gradient-Free Methods for Stochastic Non-Smooth Non-Convex Optimization
von: Lin, Zhenwei, et al.
Veröffentlicht: (2023)

MindFlayer SGD: Efficient Parallel SGD in the Presence of Heterogeneous and Random Worker Compute Times
von: Maranjyan, Artavazd, et al.
Veröffentlicht: (2024)

Resource-Constrained Decentralized Federated Learning via Personalized Event-Triggering
von: Zehtabi, Shahryar, et al.
Veröffentlicht: (2022)

CEDAS: A Compressed Decentralized Stochastic Gradient Method with Improved Convergence
von: Huang, Kun, et al.
Veröffentlicht: (2023)

Time-varying Mixing Matrix Design for Energy-efficient Decentralized Federated Learning
von: Zhang, Xusheng, et al.
Veröffentlicht: (2025)

Communication-Efficient Federated Bilevel Optimization with Local and Global Lower Level Problems
von: Li, Junyi, et al.
Veröffentlicht: (2023)

Stochastic Controlled Averaging for Federated Learning with Communication Compression
von: Huang, Xinmeng, et al.
Veröffentlicht: (2023)

AGD: an Auto-switchable Optimizer using Stepwise Gradient Difference for Preconditioning Matrix
von: Yue, Yun, et al.
Veröffentlicht: (2023)

Accelerating Distributed Optimization: A Primal-Dual Perspective on Local Steps
von: Yang, Junchi, et al.
Veröffentlicht: (2024)

CONGO: Compressive Online Gradient Optimization
von: Carleton, Jeremy, et al.
Veröffentlicht: (2024)

Decentralized Distributed Optimization for Saddle Point Problems
von: Rogozin, Alexander, et al.
Veröffentlicht: (2021)

Decentralized Nonsmooth Nonconvex Optimization with Client Sampling
von: Chen, Xinyan, et al.
Veröffentlicht: (2026)

A Survey of Optimization Methods for Training DL Models: Theoretical Perspective on Convergence and Generalization
von: Wang, Jing, et al.
Veröffentlicht: (2025)

On Principled Local Optimization Methods for Federated Learning
von: Yuan, Honglin
Veröffentlicht: (2024)

Asynchronous Policy Gradient Aggregation for Efficient Distributed Reinforcement Learning
von: Tyurin, Alexander, et al.
Veröffentlicht: (2025)

Towards Dynamic Resource Allocation and Client Scheduling in Hierarchical Federated Learning: A Two-Phase Deep Reinforcement Learning Approach
von: Chen, Xiaojing, et al.
Veröffentlicht: (2024)

Achieving Near-Optimal Convergence for Distributed Minimax Optimization with Adaptive Stepsizes
von: Huang, Yan, et al.
Veröffentlicht: (2024)

Unbiased Compression Saves Communication in Distributed Optimization: When and How Much?
von: He, Yutong, et al.
Veröffentlicht: (2023)

Efficient Federated Learning against Heterogeneous and Non-stationary Client Unavailability
von: Xiang, Ming, et al.
Veröffentlicht: (2024)