Buchumschlag

Redox: Improving I/O Efficiency of Model Training Through File Redirection

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Li, Yuhao, Shi, Xuanhua, Zhao, Yunfei, Zhou, Yongluan, Hua, Yusheng, Qian, Xuehai
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Distributed, Parallel, and Cluster Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

DawnPiper: A Memory-scablable Pipeline Parallel Training Framework
von: Peng, Xuan, et al.
Veröffentlicht: (2025)

CFP: Efficient Optimization of Intra-Operator Parallelism Plans for Large Model Training
von: Hu, Weifang, et al.
Veröffentlicht: (2025)

gECC: A GPU-based high-throughput framework for Elliptic Curve Cryptography
von: Xiong, Qian, et al.
Veröffentlicht: (2024)

Enhancing Memory Efficiency in Large Language Model Training Through Chronos-aware Pipeline Parallelism
von: Lin, Xinyuan, et al.
Veröffentlicht: (2025)

Cloudless-Training: A Framework to Improve Efficiency of Geo-Distributed ML Training
von: Tan, Wenting, et al.
Veröffentlicht: (2023)

A Review on Edge Large Language Models: Design, Execution, and Applications
von: Zheng, Yue, et al.
Veröffentlicht: (2024)

Graph for Science: From API based Programming to Graph Engine based Programming for HPC
von: Zhang, Yu, et al.
Veröffentlicht: (2023)

Performance of Distributed File Systems on Cloud Computing Environment: An Evaluation for Small-File Problem
von: Duong, Thanh, et al.
Veröffentlicht: (2023)

Validated Strong Consensus Protocol for Asynchronous Vote-based Blockchains
von: Xu, Yibin, et al.
Veröffentlicht: (2024)

A Two-Layer Blockchain Sharding Protocol Leveraging Safety and Liveness for Enhanced Performance
von: Xu, Yibin, et al.
Veröffentlicht: (2023)

Hecate: Unlocking Efficient Sparse Model Training via Fully Sharded Sparse Data Parallelism
von: Qing, Yuhao, et al.
Veröffentlicht: (2025)

Mesh-Attention: A New Communication-Efficient Distributed Attention with Improved Data Locality
von: Chen, Sirui, et al.
Veröffentlicht: (2025)

DIAL: Decentralized I/O AutoTuning via Learned Client-side Local Metrics for Parallel File System
von: Rashid, Md Hasanur, et al.
Veröffentlicht: (2026)

HopGNN: Boosting Distributed GNN Training Efficiency via Feature-Centric Model Migration
von: Chen, Weijian, et al.
Veröffentlicht: (2024)

Improving the Efficiency of OpenCL Kernels through Pipes
von: Zarch, Mostafa Eghbali, et al.
Veröffentlicht: (2022)

Zorse: Optimizing LLM Training Efficiency on Heterogeneous GPU Clusters
von: Guo, Runsheng Benson, et al.
Veröffentlicht: (2025)

Improving GPU Multi-Tenancy Through Dynamic Multi-Instance GPU Reconfiguration
von: Wang, Tianyu, et al.
Veröffentlicht: (2024)

EMLIO: Minimizing I/O Latency and Energy Consumption for Large-Scale AI Training
von: Jamil, Hasibul, et al.
Veröffentlicht: (2025)

CALVO: Improve Serving Efficiency for LLM Inferences with Intense Network Demands
von: Wang, Weiye, et al.
Veröffentlicht: (2026)

LiveR: Fine-Grained Elasticity via Live Reconfiguration for Model Training
von: Liu, Haoyuan, et al.
Veröffentlicht: (2026)

CkIO: Parallel File Input for Over-Decomposed Task-Based Systems
von: Jacob, Mathew, et al.
Veröffentlicht: (2024)

Communication-Efficient Sparsely-Activated Model Training via Sequence Migration and Token Condensation
von: Chen, Fahao, et al.
Veröffentlicht: (2024)

EaCO: Resource Sharing Dynamics and Its Impact on Energy Efficiency for DNN Training
von: Haghshenas, Kawsar, et al.
Veröffentlicht: (2024)

Unleashing Scalable Context Parallelism for Foundation Models Pre-Training via FCP
von: Zhao, Yilong, et al.
Veröffentlicht: (2026)

Seq1F1B: Efficient Sequence-Level Pipeline Parallelism for Large Language Model Training
von: Sun, Ao, et al.
Veröffentlicht: (2024)

HARP: Orchestrating Automated Parallel Training on Heterogeneous GPU Clusters
von: Liang, Antian, et al.
Veröffentlicht: (2025)

TSUE: A Two-Stage Data Update Method for an Erasure Coded Cluster File System
von: Wei, Zheng, et al.
Veröffentlicht: (2025)

Formal Specification for Fast ACS: Low-Latency File-Based Ordered Message Delivery at Scale
von: Gupta, Sushant Kumar, et al.
Veröffentlicht: (2025)

SpecInF: Exploiting Idle GPU Resources in Distributed DL Training via Speculative Inference Filling
von: Lv, Cunchi, et al.
Veröffentlicht: (2025)

Improving SpGEMM Performance Through Matrix Reordering and Cluster-wise Computation
von: Islam, Abdullah Al Raqibul, et al.
Veröffentlicht: (2025)

Accelerating Compound LLM Training Workloads with Maestro
von: Yuan, Xiulong, et al.
Veröffentlicht: (2026)

NCCLbpf: Verified, Composable Policy Execution for GPU Collective Communication
von: Zheng, Yusheng
Veröffentlicht: (2026)

STELLAR: Storage Tuning Engine Leveraging LLM Autonomous Reasoning for High Performance Parallel File Systems
von: Egersdoerfer, Chris, et al.
Veröffentlicht: (2026)

A Flexible Programmable Pipeline Parallelism Framework for Efficient DNN Training
von: Jiang, Lijuan, et al.
Veröffentlicht: (2025)

PS-WL: A Probability-Sensitive Wear Leveling scheme for SSD array scaling
von: Xu, Shuhang, et al.
Veröffentlicht: (2025)

Unleashing Efficient Asynchronous RL Post-Training via Staleness-Constrained Rollout Coordination
von: Li, Haoyang, et al.
Veröffentlicht: (2026)

Navigating the Landscape of Distributed File Systems: Architectures, Implementations, and Considerations
von: Pan, Xueting, et al.
Veröffentlicht: (2024)

StarTrail: Concentric Ring Sequence Parallelism for Efficient Near-Infinite-Context Transformer Model Training
von: Liu, Ziming, et al.
Veröffentlicht: (2024)

DistTrain: Addressing Model and Data Heterogeneity with Disaggregated Training for Multimodal Large Language Models
von: Zhang, Zili, et al.
Veröffentlicht: (2024)

DreamDDP: Accelerating Data Parallel Distributed LLM Training with Layer-wise Scheduled Partial Synchronization
von: Tang, Zhenheng, et al.
Veröffentlicht: (2025)