Buchumschlag

An Efficient, Reliable and Observable Collective Communication Library in Large-scale GPU Training Clusters

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Mingjun, Hu, Xiaohe, Zhang, Menghao, Chen, Ziteng, Jia, Yanmin, Zhang, Yan, Liu, Da, Chen, Qing, Jiao, Fangzheng, Chen, Jun, Liu, He, Zeng, Aohan, Duan, Shuaixing, Gu, Ruya, Jing, Yang, Han, Bowen, Chen, Wei, Xie, Wenqi, Hou, Jinlong, Cheng, Yuan, Zhang, Hongzhou, Xu, Bohua, Xu, Mingwei, Hu, Chunming
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Distributed, Parallel, and Cluster Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

PlexRL: Cluster-Level Orchestration of Serviceized LLM Execution for RLVR
von: Zhang, Yiqi, et al.
Veröffentlicht: (2026)

SurveyEval: Towards Comprehensive Evaluation of LLM-Generated Academic Surveys
von: Zhao, Jiahao, et al.
Veröffentlicht: (2025)

Partially‐Observable Sequential Change‐Point Detection for Autocorrelated Data via Adaptive Upper Confidence Region
von: Haijie Xu, et al.
Veröffentlicht: (2026)

Implicit Word Reordering with Knowledge Distillation for Cross-Lingual Dependency Parsing
von: Li, Zhuoran, et al.
Veröffentlicht: (2025)

Partially-Observable Sequential Change-Point Detection for Autocorrelated Data via Upper Confidence Region
von: Xu, Haijie, et al.
Veröffentlicht: (2024)

Dual-functional microwave photonic system for concurrent radar and secure communication via radar signal masking
von: Shi, Taixia, et al.
Veröffentlicht: (2024)

FusionRCG: Orchestrating Recursive Computation Graphs across GPU Memory Hierarchies
von: Zhang, Yihong, et al.
Veröffentlicht: (2026)

Regulating Water Adsorption Sites of Keto‐Enamine COF by Base Exfoliation and Deprotonation for Enhanced Humidity Response
von: Aohan Mei, et al.
Veröffentlicht: (2024)

Adaptive Learning of Consistency and Inconsistency Information for Fake News Detection
von: Li, Aohan, et al.
Veröffentlicht: (2024)

Strichartz estimates for orthonormal systems on compact manifolds: the non-sharp region
von: Ji, Hongzhou, et al.
Veröffentlicht: (2026)

SEATrack: Simple, Efficient, and Adaptive Multimodal Tracker
von: Su, Junbin, et al.
Veröffentlicht: (2026)

Improving Zero-Shot Cross-Lingual Transfer via Progressive Code-Switching
von: Li, Zhuoran, et al.
Veröffentlicht: (2024)

Single‐Crystalline LiMg Alloy Anode for Deep Cycling All Solid State Lithium Metal Batteries
von: Linxue Zhang, et al.
Veröffentlicht: (2024)

VulnResolver: A Hybrid Agent Framework for LLM-Based Automated Vulnerability Issue Resolution
von: Zhang, Mingming, et al.
Veröffentlicht: (2026)

Learning to Wait: Synchronizing Agents with the Physical World
von: She, Yifei, et al.
Veröffentlicht: (2025)

Advanced Zero-Shot Text-to-Speech for Background Removal and Preservation with Controllable Masked Speech Prediction
von: Zhang, Leying, et al.
Veröffentlicht: (2025)

Expert-as-a-Service: Towards Efficient, Scalable, and Robust Large-scale MoE Serving
von: Liu, Ziming, et al.
Veröffentlicht: (2025)

Radio Map-Enabled 3D Trajectory and Communication Optimization for Low-Altitude Air-Ground Cooperation
von: Hu, Menghao, et al.
Veröffentlicht: (2025)

Fiber neural networks for the intelligent optical fiber communications
von: Zang, Yubin, et al.
Veröffentlicht: (2024)

Learning Dynamic Collaborative Network for Semi-supervised 3D Vessel Segmentation
von: Xu, Jiao, et al.
Veröffentlicht: (2026)

MAESTRO: Multi-Agent Evaluation Suite for Testing, Reliability, and Observability
von: Ma, Tie, et al.
Veröffentlicht: (2026)

Who still suffers? Effects of COVID‐19 stressful experiences on somatic symptoms and anxious mood moderated by diurnal cortisol: A daily diary study
von: Bowen Chen, et al.
Veröffentlicht: (2024)

Boosting LLM Serving through Spatial-Temporal GPU Resource Sharing
von: Lin, Zejia, et al.
Veröffentlicht: (2025)

Draft-Refine-Optimize: Self-Evolved Learning for Natural Language to MongoDB Query Generation
von: Ye, Mingwei, et al.
Veröffentlicht: (2026)

Instance Communication System for Intelligent Connected Vehicles: Bridging the Gap from Semantic to Instance-Level Transmission
von: Zhang, Daiqi, et al.
Veröffentlicht: (2025)

Spatial-Aware Self-Supervision for Medical 3D Imaging with Multi-Granularity Observable Tasks
von: Zhang, Yiqin, et al.
Veröffentlicht: (2025)

APAR: LLMs Can Do Auto-Parallel Auto-Regressive Decoding
von: Liu, Mingdao, et al.
Veröffentlicht: (2024)

On the psychological effects of child‐like space design on preschoolers under anesthesia: A qualitative study
von: Zhiguo Zhou, et al.
Veröffentlicht: (2024)

Long-Range Dipole-Dipole Interactions Enabled with Guided Plasmons of Matched Nanoparticle-on-Mirror Antenna Pairs
von: Kang, Bowen, et al.
Veröffentlicht: (2024)

Review on Catalytic Meinwald Rearrangement of Epoxides
von: Yulong Zhang, et al.
Veröffentlicht: (2024)

Coping With Chronic Obstructive Pulmonary Disease Together: A Dyadic Study of Self‐Care and Quality of Life in Patients and Their Caregivers
von: Yingying Cai, et al.
Veröffentlicht: (2025)

Analysis of Electromagnetic Performance of a New Dual‐Rotor Hybrid Excitation Generator
von: Mingjun Xu, et al.
Veröffentlicht: (2025)

In Situ Alkali‐Induced Surface Modification of Basalt Fibers for Improved Interfacial Bonding in Geopolymer Composites
von: Shuaibin Wang, et al.
Veröffentlicht: (2026)

Synergistic Effects of Dual‐Doping with Ni and Ru in Monolayer VS2 Nanosheet: Unleashing Enhanced Performance for Acidic HER through Defects and Strain
von: Ruonan Wang, et al.
Veröffentlicht: (2024)

Testicular fibrosis pathology, diagnosis, pathogenesis, and treatment: A perspective on related diseases
von: Ying Xu, et al.
Veröffentlicht: (2024)

Deep But Reliable: Advancing Multi-turn Reasoning for Thinking with Images
von: Yang, Wenhao, et al.
Veröffentlicht: (2025)

Learn to Memorize: Optimizing LLM-based Agents with Adaptive Memory Framework
von: Zhang, Zeyu, et al.
Veröffentlicht: (2025)

HAPS: Hierarchical LLM Routing with Joint Architecture and Parameter Search
von: Tian, Zihang, et al.
Veröffentlicht: (2026)

Higher-Order Entrywise Eigenvectors Analysis of Low-Rank Random Matrices: Bias Correction, Edgeworth Expansion, and Bootstrap
von: Xie, Fangzheng, et al.
Veröffentlicht: (2024)

Efficient Semantic-aware Encryption for Secure Communications in Intelligent Connected Vehicles
von: Wang, Bizhu, et al.
Veröffentlicht: (2025)