Buchumschlag

AdaGossip: Adaptive Consensus Step-size for Decentralized Deep Learning with Communication Compression

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Aketi, Sai Aparna, Hashemi, Abolfazl, Roy, Kaushik
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SADDLe: Sharpness-Aware Decentralized Deep Learning with Heterogeneous Data
von: Choudhary, Sakshi, et al.
Veröffentlicht: (2024)

Averaging Rate Scheduler for Decentralized Learning on Heterogeneous Data
von: Aketi, Sai Aparna, et al.
Veröffentlicht: (2024)

Homogenizing Non-IID datasets via In-Distribution Knowledge Distillation for Decentralized Learning
von: Ravikumar, Deepak, et al.
Veröffentlicht: (2023)

Learning to Localize Leakage of Cryptographic Sensitive Variables
von: Gammell, Jimmy, et al.
Veröffentlicht: (2025)

FedSGM: A Unified Framework for Constraint Aware, Bidirectionally Compressed, Multi-Step Federated Optimization
von: Upadhyay, Antesh, et al.
Veröffentlicht: (2026)

Unveiling Privacy, Memorization, and Input Curvature Links
von: Ravikumar, Deepak, et al.
Veröffentlicht: (2024)

Towards Two-Stream Foveation-based Active Vision Learning
von: Ibrayev, Timur, et al.
Veröffentlicht: (2024)

Equitable Federated Learning with Activation Clustering
von: Upadhyay, Antesh, et al.
Veröffentlicht: (2024)

Unveiling the Power of Multiple Gossip Steps: A Stability-Based Generalization Analysis in Decentralized Training
von: Li, Qinglun, et al.
Veröffentlicht: (2025)

Fast and Efficient Gossip Algorithms for Robust and Non-smooth Decentralized Learning
von: van Elst, Anna, et al.
Veröffentlicht: (2026)

Structural Properties, Cycloid Trajectories and Non-Asymptotic Guarantees of EM Algorithm for Mixed Linear Regression
von: Luo, Zhankun, et al.
Veröffentlicht: (2025)

Characterizing Evolution in Expectation-Maximization Estimates for Overspecified Mixed Linear Regression
von: Luo, Zhankun, et al.
Veröffentlicht: (2025)

A Proximal Gradient Method With Probabilistic Multi-Gossip Communications for Decentralized Composite Optimization
von: Guo, Luyao, et al.
Veröffentlicht: (2023)

Decentralized Parameter-Free Online Learning with Compressed Gossip
von: Ortega, Tomas, et al.
Veröffentlicht: (2026)

AdaCubic: An Adaptive Cubic Regularization Optimizer for Deep Learning
von: Tsingalis, Ioannis, et al.
Veröffentlicht: (2026)

Decentralized Ranking Aggregation via Gossip: Convergence and Robustness
von: Caillec, Kerrian Le, et al.
Veröffentlicht: (2026)

Optimistic Regret Bounds for Online Learning in Adversarial Markov Decision Processes
von: Moon, Sang Bin, et al.
Veröffentlicht: (2024)

A Finite-Iteration Theory for Asynchronous Categorical Distributional Temporal-Difference Learning
von: Kaya, Ege C., et al.
Veröffentlicht: (2026)

Unveiling the Cycloid Trajectory of EM Iterations in Mixed Linear Regression
von: Luo, Zhankun, et al.
Veröffentlicht: (2024)

AdaBatchGrad: Combining Adaptive Batch Size and Adaptive Step Size
von: Ostroukhov, Petr, et al.
Veröffentlicht: (2024)

Generalizing Differentially Private Decentralized Deep Learning with Multi-Agent Consensus
von: Bayrooti, Jasmine, et al.
Veröffentlicht: (2023)

On the Benefits of Inducing Local Lipschitzness for Robust Generative Adversarial Imitation Learning
von: Memarian, Farzan, et al.
Veröffentlicht: (2021)

Joint MDPs and Reinforcement Learning in Coupled-Dynamics Environments
von: Kaya, Ege C., et al.
Veröffentlicht: (2026)

Decentralized Gossip Mutual Learning (GML) for automatic head and neck tumor segmentation
von: Chen, Jingyun, et al.
Veröffentlicht: (2024)

MANGO: Meta-Adaptive Network Gradient Optimization for Online Continual Learning
von: Awasthi, Ankita, et al.
Veröffentlicht: (2026)

Zeroth-Order Non-Log-Concave Sampling with Variance Reduction and Applications to Inverse Problems
von: Sahin, M. Berk, et al.
Veröffentlicht: (2026)

Exploring Adaptive Structure Learning for Heterophilic Graphs
von: Kaushik, Garv
Veröffentlicht: (2025)

Localized Distributional Robustness in Submodular Multi-Task Subset Selection
von: Kaya, Ege C., et al.
Veröffentlicht: (2024)

LANCE: Low Rank Activation Compression for Efficient On-Device Continual Learning
von: Apolinario, Marco Paul E., et al.
Veröffentlicht: (2025)

FedBGS: A Blockchain Approach to Segment Gossip Learning in Decentralized Systems
von: Turazza, Fabio, et al.
Veröffentlicht: (2026)

Adaptive Interface-PINNs (AdaI-PINNs): An Efficient Physics-informed Neural Networks Framework for Interface Problems
von: Roy, Sumanta, et al.
Veröffentlicht: (2024)

On Gossip Algorithms for Machine Learning with Pairwise Objectives
von: Colin, Igor, et al.
Veröffentlicht: (2026)

Beyond Bounded Variance: Variance-Reduced Normalized Methods for Nonconvex Optimization under Blum-Gladyshev Noise
von: Upadhyay, Antesh, et al.
Veröffentlicht: (2026)

AdaPTwin: Low-Cost Adaptive Compression of Product Twins in Transformers
von: Biju, Emil, et al.
Veröffentlicht: (2024)

Curvature Clues: Decoding Deep Learning Privacy with Input Loss Curvature
von: Ravikumar, Deepak, et al.
Veröffentlicht: (2024)

Decentralized Gossip Mutual Learning (GML) for brain tumor segmentation on multi-parametric MRI
von: Chen, Jingyun, et al.
Veröffentlicht: (2024)

AdaCL:Adaptive Continual Learning
von: Yildirim, Elif Ceren Gok, et al.
Veröffentlicht: (2023)

Event-Triggered Gossip for Distributed Learning
von: Zhai, Zhiyuan, et al.
Veröffentlicht: (2026)

AdaMuon: Adaptive Muon Optimizer
von: Si, Chongjie, et al.
Veröffentlicht: (2025)

Quotient-Categorical Representations for Bellman-Compatible Average-Reward Distributional Reinforcement Learning
von: Kaya, Ege C., et al.
Veröffentlicht: (2026)