ABS: Adaptive Bounded Staleness Converges Faster and Communicates Less
Fuente:
arXiv
Salvato in:
| Autori principali: | Tan, Qiao, Zhu, Feng, Zhang, Jingjing |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2023
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Memory Efficient and Staleness Free Pipeline Parallel DNN Training Framework with Improved Convergence Speed
di: Dutta, Ankita, et al.
Pubblicazione: (2025)
di: Dutta, Ankita, et al.
Pubblicazione: (2025)
Converge Faster, Talk Less: Hessian-Informed Federated Zeroth-Order Optimization
di: Li, Zhe, et al.
Pubblicazione: (2025)
di: Li, Zhe, et al.
Pubblicazione: (2025)
Divergence-Based Adaptive Aggregation for Byzantine Robust Federated Learning
di: Xiao, Bingnan, et al.
Pubblicazione: (2026)
di: Xiao, Bingnan, et al.
Pubblicazione: (2026)
Staleness-Centric Optimizations for Parallel Diffusion MoE Inference
di: Luo, Jiajun, et al.
Pubblicazione: (2024)
di: Luo, Jiajun, et al.
Pubblicazione: (2024)
When Less is More: Achieving Faster Convergence in Distributed Edge Machine Learning
di: Basani, Advik Raj, et al.
Pubblicazione: (2024)
di: Basani, Advik Raj, et al.
Pubblicazione: (2024)
Unleashing Efficient Asynchronous RL Post-Training via Staleness-Constrained Rollout Coordination
di: Li, Haoyang, et al.
Pubblicazione: (2026)
di: Li, Haoyang, et al.
Pubblicazione: (2026)
EchoPFL: Asynchronous Personalized Federated Learning on Mobile Devices with On-Demand Staleness Control
di: Li, Xiaochen, et al.
Pubblicazione: (2024)
di: Li, Xiaochen, et al.
Pubblicazione: (2024)
FedStaleWeight: Buffered Asynchronous Federated Learning with Fair Aggregation via Staleness Reweighting
di: Ma, Jeffrey, et al.
Pubblicazione: (2024)
di: Ma, Jeffrey, et al.
Pubblicazione: (2024)
TiMePReSt: Time and Memory Efficient Pipeline Parallel DNN Training with Removed Staleness
di: Dutta, Ankita, et al.
Pubblicazione: (2024)
di: Dutta, Ankita, et al.
Pubblicazione: (2024)
DFedSat: Communication-Efficient and Robust Decentralized Federated Learning for LEO Satellite Constellations
di: Yang, Minghao, et al.
Pubblicazione: (2024)
di: Yang, Minghao, et al.
Pubblicazione: (2024)
Distributed Deep Learning using Stochastic Gradient Staleness
di: Pham, Viet Hoang, et al.
Pubblicazione: (2025)
di: Pham, Viet Hoang, et al.
Pubblicazione: (2025)
Rise and Shine Efficiently! Tight Bounds for Adversarial Wake-up
di: Robinson, Peter, et al.
Pubblicazione: (2024)
di: Robinson, Peter, et al.
Pubblicazione: (2024)
Tackling Intertwined Data and Device Heterogeneities in Federated Learning with Unlimited Staleness
di: Wang, Haoming, et al.
Pubblicazione: (2023)
di: Wang, Haoming, et al.
Pubblicazione: (2023)
MSPipe: Efficient Temporal GNN Training via Staleness-Aware Pipeline
di: Sheng, Guangming, et al.
Pubblicazione: (2024)
di: Sheng, Guangming, et al.
Pubblicazione: (2024)
ZCCL: Significantly Improving Collective Communication With Error-Bounded Lossy Compression
di: Huang, Jiajun, et al.
Pubblicazione: (2025)
di: Huang, Jiajun, et al.
Pubblicazione: (2025)
Faster Convergence with Less Communication: Broadcast-Based Subgraph Sampling for Decentralized Learning over Wireless Networks
di: Herrera, Daniel Pérez, et al.
Pubblicazione: (2024)
di: Herrera, Daniel Pérez, et al.
Pubblicazione: (2024)
Minimmit: Fast Finality with Even Faster Blocks
di: Chou, Brendan Kobayashi, et al.
Pubblicazione: (2025)
di: Chou, Brendan Kobayashi, et al.
Pubblicazione: (2025)
Aggregating Funnels for Faster Fetch&Add and Queues
di: Roh, Younghun, et al.
Pubblicazione: (2024)
di: Roh, Younghun, et al.
Pubblicazione: (2024)
Communication Lower Bounds and Optimal Algorithms for Symmetric Matrix Computations
di: Daas, Hussam Al, et al.
Pubblicazione: (2024)
di: Daas, Hussam Al, et al.
Pubblicazione: (2024)
Communication Lower Bounds and Algorithms for Sketching with Random Dense Matrices
di: Daas, Hussam Al, et al.
Pubblicazione: (2026)
di: Daas, Hussam Al, et al.
Pubblicazione: (2026)
FedSZ: Leveraging Error-Bounded Lossy Compression for Federated Learning Communications
di: Wilkins, Grant, et al.
Pubblicazione: (2023)
di: Wilkins, Grant, et al.
Pubblicazione: (2023)
Faster Parallel Triangular Maximally Filtered Graphs and Hierarchical Clustering
di: Raphael, Steven, et al.
Pubblicazione: (2024)
di: Raphael, Steven, et al.
Pubblicazione: (2024)
GPU Acceleration for Faster Evolutionary Spatial Cyclic Game Systems
di: Sinadjan, Louie
Pubblicazione: (2025)
di: Sinadjan, Louie
Pubblicazione: (2025)
Collaborative Text Editing with Eg-walker: Better, Faster, Smaller
di: Gentle, Joseph, et al.
Pubblicazione: (2024)
di: Gentle, Joseph, et al.
Pubblicazione: (2024)
Hybrid Decentralized Optimization: Leveraging Both First- and Zeroth-Order Optimizers for Faster Convergence
di: Ansaripour, Matin, et al.
Pubblicazione: (2022)
di: Ansaripour, Matin, et al.
Pubblicazione: (2022)
More for Less: Integrating Capability-Predominant and Capacity-Predominant Computing
di: Zheng, Zhong, et al.
Pubblicazione: (2025)
di: Zheng, Zhong, et al.
Pubblicazione: (2025)
FedLog: Personalized Federated Classification with Less Communication and More Flexibility
di: Yu, Haolin, et al.
Pubblicazione: (2024)
di: Yu, Haolin, et al.
Pubblicazione: (2024)
Distributed Stochastic Gradient Descent with Staleness: A Stochastic Delay Differential Equation Based Framework
di: Yu, Siyuan, et al.
Pubblicazione: (2024)
di: Yu, Siyuan, et al.
Pubblicazione: (2024)
FedFetch: Faster Federated Learning with Adaptive Downstream Prefetching
di: Yan, Qifan, et al.
Pubblicazione: (2025)
di: Yan, Qifan, et al.
Pubblicazione: (2025)
FunLess: Functions-as-a-Service for Private Edge Cloud Systems
di: De Palma, Giuseppe, et al.
Pubblicazione: (2024)
di: De Palma, Giuseppe, et al.
Pubblicazione: (2024)
NEMO: Faster Parallel Execution for Highly Contended Blockchain Workloads (Full version)
di: Ezard, François, et al.
Pubblicazione: (2025)
di: Ezard, François, et al.
Pubblicazione: (2025)
FUSCO: High-Performance Distributed Data Shuffling via Transformation-Communication Fusion
di: Zhu, Zhuoran, et al.
Pubblicazione: (2025)
di: Zhu, Zhuoran, et al.
Pubblicazione: (2025)
Communication-Efficient Distributed Learning via Sparse and Adaptive Stochastic Gradient
di: Deng, Xiaoge, et al.
Pubblicazione: (2021)
di: Deng, Xiaoge, et al.
Pubblicazione: (2021)
ClusterLess: Deadline-Aware Serverless Workflow Orchestration on Federated Edge Clusters
di: Farahani, Reza, et al.
Pubblicazione: (2026)
di: Farahani, Reza, et al.
Pubblicazione: (2026)
Faster Distributed Inference-Only Recommender Systems via Bounded Lag Synchronous Collectives
di: Dichev, Kiril, et al.
Pubblicazione: (2025)
di: Dichev, Kiril, et al.
Pubblicazione: (2025)
Towards Single Slot Finality: Evaluating Consensus Mechanisms and Methods for Faster Ethereum Finality
di: Murr, Lincoln
Pubblicazione: (2024)
di: Murr, Lincoln
Pubblicazione: (2024)
Towards Affordable, Adaptive and Automatic GNN Training on CPU-GPU Heterogeneous Platforms
di: Qiao, Tong, et al.
Pubblicazione: (2025)
di: Qiao, Tong, et al.
Pubblicazione: (2025)
An Accurate Beam-Tracking Algorithm with Adaptive Beam Reconstruction via UAV-BSs for Mobile Users
di: Zhang, Jing, et al.
Pubblicazione: (2024)
di: Zhang, Jing, et al.
Pubblicazione: (2024)
GreenDyGNN: Runtime-Adaptive Energy-Efficient Communication for Distributed GNN Training
di: Niam, Arefin, et al.
Pubblicazione: (2026)
di: Niam, Arefin, et al.
Pubblicazione: (2026)
SIMPLE: Disaggregating Sampling from GPU Inference into a Decision Plane for Faster Distributed LLM Serving
di: Zhao, Bohan, et al.
Pubblicazione: (2025)
di: Zhao, Bohan, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Memory Efficient and Staleness Free Pipeline Parallel DNN Training Framework with Improved Convergence Speed
di: Dutta, Ankita, et al.
Pubblicazione: (2025) -
Converge Faster, Talk Less: Hessian-Informed Federated Zeroth-Order Optimization
di: Li, Zhe, et al.
Pubblicazione: (2025) -
Divergence-Based Adaptive Aggregation for Byzantine Robust Federated Learning
di: Xiao, Bingnan, et al.
Pubblicazione: (2026) -
Staleness-Centric Optimizations for Parallel Diffusion MoE Inference
di: Luo, Jiajun, et al.
Pubblicazione: (2024) -
When Less is More: Achieving Faster Convergence in Distributed Edge Machine Learning
di: Basani, Advik Raj, et al.
Pubblicazione: (2024)