Buchumschlag

FlashCommunication V2: Bit Splitting and Spike Reserving for Any Bit Communication

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Li, Qingyuan, Zhang, Bo, Kang, Hui, Xu, Tianhao, Qian, Yulei, Xie, Yuchen, Ma, Lin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Distributed, Parallel, and Cluster Computing Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

T-MAC: CPU Renaissance via Table Lookup for Low-Bit LLM Deployment on Edge
von: Wei, Jianyu, et al.
Veröffentlicht: (2024)

On the Bit Complexity of Iterated Memory
von: Toyos-Marfurt, Guillermo, et al.
Veröffentlicht: (2024)

FedBiF: Communication-Efficient Federated Learning via Bits Freezing
von: Li, Shiwei, et al.
Veröffentlicht: (2025)

Robust and Scalable Renaming with Subquadratic Bits
von: Bai, Sirui, et al.
Veröffentlicht: (2025)

SDP4Bit: Toward 4-bit Communication Quantization in Sharded Data Parallelism for LLM Training
von: Jia, Jinda, et al.
Veröffentlicht: (2024)

FeedSign: Robust Full-parameter Federated Fine-tuning of Large Models with Extremely Low Communication Overhead of One Bit
von: Cai, Zhijie, et al.
Veröffentlicht: (2025)

Vec-LUT: Vector Table Lookup for Parallel Ultra-Low-Bit LLM Inference on Edge Devices
von: Li, Xiangyu, et al.
Veröffentlicht: (2025)

Distributed Renaming with Subquadratic Bits via Scalable Committee Election
von: Bai, Sirui, et al.
Veröffentlicht: (2026)

Privacy-preserving Chunk Scheduling in a BitTorrent Implementation of Federated Learning
von: Li, Naicheng, et al.
Veröffentlicht: (2026)

Improving the Bit Complexity of Communication for Distributed Convex Optimization
von: Ghadiri, Mehrdad, et al.
Veröffentlicht: (2024)

One-Bit Model Aggregation for Differentially Private and Byzantine-Robust Personalized Federated Learning
von: Lan, Muhang, et al.
Veröffentlicht: (2025)

BitPipe: Bidirectional Interleaved Pipeline Parallelism for Accelerating Large Models Training
von: Wu, Houming, et al.
Veröffentlicht: (2024)

UCCL-Zip: Lossless Compression Supercharged GPU Communication
von: Ma, Shuang, et al.
Veröffentlicht: (2026)

BitVMX: A CPU for Universal Computation on Bitcoin
von: Lerner, Sergio Demian, et al.
Veröffentlicht: (2024)

BeACONS: A Blockchain-enabled Authentication and Communications Network for Scalable IoV
von: Shi, Qi, et al.
Veröffentlicht: (2024)

A Transverse-Read-assisted Fast Valid-Bits Collection in Stochastic Computing MACs for Energy-Efficient in-RTM DNNs
von: Wang, Jihe, et al.
Veröffentlicht: (2024)

Communication-Computation Pipeline Parallel Split Learning over Wireless Edge Networks
von: Liu, Chenyu, et al.
Veröffentlicht: (2025)

Communication-and-Computation Efficient Split Federated Learning: Gradient Aggregation and Resource Management
von: Liang, Yipeng, et al.
Veröffentlicht: (2025)

Exploiting Multicast for Accelerating Collective Communication
von: Xu, Chao, et al.
Veröffentlicht: (2026)

Demystifying the Communication Characteristics for Distributed Transformer Models
von: Anthony, Quentin, et al.
Veröffentlicht: (2024)

Mesh-Attention: A New Communication-Efficient Distributed Attention with Improved Data Locality
von: Chen, Sirui, et al.
Veröffentlicht: (2025)

Enhancing Communication Efficiency in FL with Adaptive Gradient Quantization and Communication Frequency Optimization
von: Tariq, Asadullah, et al.
Veröffentlicht: (2025)

BitFlipScope: Scalable Fault Localization and Recovery for Bit-Flip Corruptions in LLMs
von: Karamat, Muhammad Zeeshan, et al.
Veröffentlicht: (2025)

ESSPI: ECDSA/Schnorr Signed Program Input for BitVMX
von: Lerner, Sergio Demian, et al.
Veröffentlicht: (2025)

Communication-Efficient Split Learning via Adaptive Feature-Wise Compression
von: Oh, Yongjeong, et al.
Veröffentlicht: (2023)

SFVInt: Simple, Fast and Generic Variable-Length Integer Decoding using Bit Manipulation Instructions
von: Liao, Gang, et al.
Veröffentlicht: (2024)

An Artificial Intelligence Framework for Joint Structural-Temporal Load Forecasting in Cloud Native Platforms
von: Zhang, Qingyuan
Veröffentlicht: (2026)

FlashRecovery: Fast and Low-Cost Recovery from Failures for Large-Scale Training of LLMs
von: Zhang, Haijun, et al.
Veröffentlicht: (2025)

Distributed Learning based on 1-Bit Gradient Coding in the Presence of Stragglers
von: Li, Chengxi, et al.
Veröffentlicht: (2024)

Flash-KMeans: Fast and Memory-Efficient Exact K-Means
von: Yang, Shuo, et al.
Veröffentlicht: (2026)

KAITIAN: A Unified Communication Framework for Enabling Efficient Collaboration Across Heterogeneous Accelerators in Embodied AI Systems
von: Lin, Jieke, et al.
Veröffentlicht: (2025)

Energy-aware Incremental OTA Update for Flash-based Batteryless IoT Devices
von: Wei, Wei, et al.
Veröffentlicht: (2024)

Efficient Local-to-Global Collaborative Perception via Joint Communication and Computation Optimization
von: Zhang, Hui, et al.
Veröffentlicht: (2026)

Semantic-aware Token Selection and Resource Optimization for Communication-efficient Split Federated Fine-tuning in Edge Intelligence
von: Qiang, Xianke, et al.
Veröffentlicht: (2026)

MSCCL++: Rethinking GPU Communication Abstractions for AI Inference
von: Hwang, Changho, et al.
Veröffentlicht: (2025)

FUSCO: High-Performance Distributed Data Shuffling via Transformation-Communication Fusion
von: Zhu, Zhuoran, et al.
Veröffentlicht: (2025)

MVDRAM: Enabling GeMV Execution in Unmodified DRAM for Low-Bit LLM Acceleration
von: Kubo, Tatsuya, et al.
Veröffentlicht: (2025)

vLLM-Omni: Fully Disaggregated Serving for Any-to-Any Multimodal Models
von: Yin, Peiqi, et al.
Veröffentlicht: (2026)

FedFT: Improving Communication Performance for Federated Learning with Frequency Space Transformation
von: Palihawadana, Chamath, et al.
Veröffentlicht: (2024)

Speculative Decoding in Decentralized LLM Inference: Turning Communication Latency into Computation Throughput
von: Song, Jingwei, et al.
Veröffentlicht: (2025)