Buchumschlag

Accelerated Distributed Optimization with Compression and Error Feedback

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Gao, Yuan, Rodomanov, Anton, Rack, Jeremy, Stich, Sebastian U.
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Optimization and Control Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Composite Optimization with Error Feedback: the Dual Averaging Approach
von: Gao, Yuan, et al.
Veröffentlicht: (2025)

Non-convex Stochastic Composite Optimization with Polyak Momentum
von: Gao, Yuan, et al.
Veröffentlicht: (2024)

Federated Optimization with Doubly Regularized Drift Correction
von: Jiang, Xiaowen, et al.
Veröffentlicht: (2024)

Stabilized Proximal-Point Methods for Federated Optimization
von: Jiang, Xiaowen, et al.
Veröffentlicht: (2024)

Non-Convex Federated Optimization under Cost-Aware Client Selection
von: Jiang, Xiaowen, et al.
Veröffentlicht: (2025)

Exploiting Similarity for Computation and Communication-Efficient Decentralized Optimization
von: Takezawa, Yuki, et al.
Veröffentlicht: (2025)

DADA: Dual Averaging with Distance Adaptation
von: Moshtaghifar, Mohammad, et al.
Veröffentlicht: (2025)

Universality of AdaGrad Stepsizes for Stochastic Optimization: Inexact Oracle, Acceleration and Variance Reduction
von: Rodomanov, Anton, et al.
Veröffentlicht: (2024)

Towards Faster Decentralized Stochastic Optimization with Communication Compression
von: Islamov, Rustem, et al.
Veröffentlicht: (2024)

Efficient Gradient Methods for Distributed Saddle Problems
von: Luo, Ruichen, et al.
Veröffentlicht: (2026)

Optimizing $(L_0, L_1)$-Smooth Functions by Gradient Methods
von: Vankov, Daniil, et al.
Veröffentlicht: (2024)

Scalable Decentralized Learning with Teleportation
von: Takezawa, Yuki, et al.
Veröffentlicht: (2025)

FedMuon: Federated Learning with Bias-corrected LMO-based Optimization
von: Takezawa, Yuki, et al.
Veröffentlicht: (2025)

Communication-Efficient Gradient Descent-Accent Methods for Distributed Variational Inequalities: Unified Analysis and Local Updates
von: Zhang, Siqi, et al.
Veröffentlicht: (2023)

Locally Adaptive Federated Learning
von: Mukherjee, Sohom, et al.
Veröffentlicht: (2023)

A Tight Theory of Error Feedback Algorithms in Distributed Optimization
von: Thomsen, Daniel Berg, et al.
Veröffentlicht: (2026)

On Convergence of Incremental Gradient for Non-Convex Smooth Functions
von: Koloskova, Anastasia, et al.
Veröffentlicht: (2023)

Modular Distributed Nonconvex Learning with Error Feedback
von: Carnevale, Guido, et al.
Veröffentlicht: (2025)

TAMUNA: Doubly Accelerated Distributed Optimization with Local Training, Compression, and Partial Participation
von: Condat, Laurent, et al.
Veröffentlicht: (2023)

Global Complexity Analysis of BFGS
von: Rodomanov, Anton
Veröffentlicht: (2024)

Error Feedback Can Accurately Compress Preconditioners
von: Modoranu, Ionut-Vlad, et al.
Veröffentlicht: (2023)

Safe-EF: Error Feedback for Nonsmooth Constrained Optimization
von: Islamov, Rustem, et al.
Veröffentlicht: (2025)

Error Feedback for Muon and Friends
von: Gruntkowska, Kaja, et al.
Veröffentlicht: (2025)

Lower Bounds and Accelerated Algorithms in Distributed Stochastic Optimization with Communication Compression
von: He, Yutong, et al.
Veröffentlicht: (2023)

From PowerSGD to PowerSGD+: Low-Rank Gradient Compression for Distributed Optimization with Convergence Guarantees
von: Xie, Shengping, et al.
Veröffentlicht: (2025)

Clapping: Removing Per-sample Storage for Pipeline Parallel Distributed Optimization with Communication Compression
von: Kong, Boao, et al.
Veröffentlicht: (2025)

Temporal Difference Learning with Compressed Updates: Error-Feedback meets Reinforcement Learning
von: Mitra, Aritra, et al.
Veröffentlicht: (2023)

Revisiting LocalSGD and SCAFFOLD: Improved Rates and Missing Analysis
von: Luo, Ruichen, et al.
Veröffentlicht: (2025)

Accelerated Optimization Landscape of Linear-Quadratic Regulator
von: Feng, Lechen, et al.
Veröffentlicht: (2023)

Accelerating Optimization via Differentiable Stopping Time
von: Xie, Zhonglin, et al.
Veröffentlicht: (2025)

Improved Convergence in Parameter-Agnostic Error Feedback through Momentum
von: Sadiev, Abdurakhmon, et al.
Veröffentlicht: (2025)

Sinkhorn Distributionally Robust Optimization
von: Wang, Jie, et al.
Veröffentlicht: (2021)

Greedy Low-Rank Gradient Compression for Distributed Learning with Convergence Guarantees
von: Chen, Chuyan, et al.
Veröffentlicht: (2025)

Two-Timescale Optimization Framework for Sparse-Feedback Linear-Quadratic Optimal Control
von: Feng, Lechen, et al.
Veröffentlicht: (2024)

Distributed Online Bandit Nonconvex Optimization with One-Point Residual Feedback via Dynamic Regret
von: Hua, Youqing, et al.
Veröffentlicht: (2024)

Double Momentum and Error Feedback for Clipping with Fast Rates and Differential Privacy
von: Islamov, Rustem, et al.
Veröffentlicht: (2025)

Nonconvex Optimization Framework for Group-Sparse Feedback Linear-Quadratic Optimal Control: Penalty Approach
von: Feng, Lechen, et al.
Veröffentlicht: (2025)

EF21 with Bells & Whistles: Six Algorithmic Extensions of Modern Error Feedback
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2021)

The Limits and Potentials of Local SGD for Distributed Heterogeneous Learning with Intermittent Communication
von: Patel, Kumar Kshitij, et al.
Veröffentlicht: (2024)

Accelerated Methods with Compressed Communications for Distributed Optimization Problems under Data Similarity
von: Bylinkin, Dmitry, et al.
Veröffentlicht: (2024)