Copertina

ATOM: Asynchronous Training of Massive Models for Deep Learning in a Decentralized Environment

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Wu, Xiaofeng, Rao, Jia, Chen, Wei
Natura:	Preprint
Pubblicazione:	2024
Soggetti:	Distributed, Parallel, and Cluster Computing Software Engineering
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

L4: Diagnosing Large-scale LLM Training Failures via Automated Log Analysis
di: Jiang, Zhihan, et al.
Pubblicazione: (2025)

Supercharging Federated Learning with Flower and NVIDIA FLARE
di: Roth, Holger R., et al.
Pubblicazione: (2024)

Radon: a Programming Model and Platform for Computing Continuum Systems
di: De Martini, Luca, et al.
Pubblicazione: (2025)

Learning Recovery Strategies for Dynamic Self-healing in Reactive Systems
di: Sanabria, Mateo, et al.
Pubblicazione: (2024)

Model-guided Fuzzing of Distributed Systems
di: Gulcan, Ege Berkay, et al.
Pubblicazione: (2024)

FSM Modeling For Off-Blockchain Computation
di: Liu, Christian Gang
Pubblicazione: (2025)

Supporting Long-term Transactions in Smart Contracts Generated from Business Process Model and Notation (BPMN) Models
di: Liu, Christian Gang
Pubblicazione: (2025)

Do Large Language Models Understand Performance Optimization?
di: Cui, Bowen, et al.
Pubblicazione: (2025)

Multi-Grained Specifications for Distributed System Model Checking and Verification
di: Ouyang, Lingzhi, et al.
Pubblicazione: (2024)

Metronome: Differentiated Delay Scheduling for Serverless Functions
di: Chen, Zhuangbin, et al.
Pubblicazione: (2025)

TraceMesh: Scalable and Streaming Sampling for Distributed Traces
di: Chen, Zhuangbin, et al.
Pubblicazione: (2024)

MegaFlow: Large-Scale Distributed Orchestration System for the Agentic Era
di: Zhang, Lei, et al.
Pubblicazione: (2026)

Wherefore Art Thou? Provenance-Guided Automatic Online Debugging with Lumos
di: Chen, Jingyuan, et al.
Pubblicazione: (2026)

MPI Errors Detection using GNN Embedding and Vector Embedding over LLVM IR
di: Karchi, Jad El, et al.
Pubblicazione: (2024)

AlertGuardian: Intelligent Alert Life-Cycle Management for Large-scale Cloud Systems
di: Yu, Guangba, et al.
Pubblicazione: (2026)

Histrio: a Serverless Actor System
di: Buttiglieri, Giorgio Natale, et al.
Pubblicazione: (2024)

GitFarm: Git as a Service for Large-Scale Monorepos
di: Dwivedi, Preetam, et al.
Pubblicazione: (2026)

SoK: Microservice Architectures from a Dependability Perspective
di: Kažemaks, Dāvis, et al.
Pubblicazione: (2025)

Specx: a C++ task-based runtime system for heterogeneous distributed architectures
di: Cardosi, Paul, et al.
Pubblicazione: (2023)

A Survey of Real-Time Support, Analysis, and Advancements in ROS 2
di: Casini, Daniel, et al.
Pubblicazione: (2025)

Investigating Matrix Repartitioning to Address the Over- and Undersubscription Challenge for a GPU-based CFD Solver
di: Olenik, Gregor, et al.
Pubblicazione: (2025)

A Reinforcement Learning Environment for Automatic Code Optimization in the MLIR Compiler
di: Tirichine, Mohammed, et al.
Pubblicazione: (2024)

SeBS-Flow: Benchmarking Serverless Cloud Function Workflows
di: Schmid, Larissa, et al.
Pubblicazione: (2024)

CloudHeatMap: Heatmap-Based Monitoring for Large-Scale Cloud Systems
di: Sohana, Sarah, et al.
Pubblicazione: (2024)

Adaptable TeaStore
di: Bliudze, Simon, et al.
Pubblicazione: (2024)

Building Castles in the Cloud: Architecting Resilient and Scalable Infrastructure
di: Gundla, Naresh Kumar
Pubblicazione: (2024)

Carbon-aware Software Services
di: Forti, Stefano, et al.
Pubblicazione: (2024)

CARISMA: CAR-Integrated Service Mesh Architecture
di: Klein, Kevin, et al.
Pubblicazione: (2024)

gFaaS: Enabling Generic Functions in Serverless Computing
di: Chadha, Mohak, et al.
Pubblicazione: (2024)

ShuffleBench: A Benchmark for Large-Scale Data Shuffling Operations with Distributed Stream Processing Frameworks
di: Henning, Sören, et al.
Pubblicazione: (2024)

LLOR: Automated Repair of OpenMP Programs
di: Bora, Utpal, et al.
Pubblicazione: (2024)

SPES: Towards Optimizing Performance-Resource Trade-Off for Serverless Functions
di: Lee, Cheryl, et al.
Pubblicazione: (2024)

UPC Sentinel: An Accurate Approach for Detecting Upgradeability Proxy Contracts in Ethereum
di: Ebrahimi, Amir M., et al.
Pubblicazione: (2024)

A simple and fast C++ thread pool implementation capable of running task graphs
di: Puyda, Dmytro
Pubblicazione: (2024)

ExaWorks Software Development Kit: A Robust and Scalable Collection of Interoperable Workflow Technologies
di: Turilli, Matteo, et al.
Pubblicazione: (2024)

On the correlation between Architectural Smells and Static Analysis Warnings
di: Esposito, Matteo, et al.
Pubblicazione: (2024)

Hydra: Brokering Cloud and HPC Resources to Support the Execution of Heterogeneous Workloads at Scale
di: Alsaadi, Aymen, et al.
Pubblicazione: (2024)

A Framework for Effective Invocation Methods of Various LLM Services
di: Wang, Can, et al.
Pubblicazione: (2024)

Cilium and VDM -- Towards Formal Analysis of Cilium Policies
di: Kulik, Tomas, et al.
Pubblicazione: (2024)

Cost-Effective Big Data Orchestration Using Dagster: A Multi-Platform Approach
di: Picatto, Hernan, et al.
Pubblicazione: (2024)