Salvato in:
| Autori principali: | Li, Yanchen, Li, Jiachun, Sun, Kebin, Leng, Luziwei, Cheng, Ran |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2408.00280 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Accelerating Large Language Model Training with Hybrid GPU-based Compression
di: Xu, Lang, et al.
Pubblicazione: (2024)
di: Xu, Lang, et al.
Pubblicazione: (2024)
Accelerating Long-Tail Generation in Synchronous RLHF Training via Adaptive Tensor Parallelism
di: Zhao, Long, et al.
Pubblicazione: (2026)
di: Zhao, Long, et al.
Pubblicazione: (2026)
ClusterFusion: Expanding Operator Fusion Scope for LLM Inference via Cluster-Level Collective Primitive
di: Luo, Xinhao, et al.
Pubblicazione: (2025)
di: Luo, Xinhao, et al.
Pubblicazione: (2025)
ParaGAN: A Scalable Distributed Training Framework for Generative Adversarial Networks
di: Shi, Ziji, et al.
Pubblicazione: (2024)
di: Shi, Ziji, et al.
Pubblicazione: (2024)
Speeding up Local Optimization in Vehicle Routing with Tensor-based GPU Acceleration
di: Lei, Zhenyu, et al.
Pubblicazione: (2025)
di: Lei, Zhenyu, et al.
Pubblicazione: (2025)
Democratizing AI: Open-source Scalable LLM Training on GPU-based Supercomputers
di: Singh, Siddharth, et al.
Pubblicazione: (2025)
di: Singh, Siddharth, et al.
Pubblicazione: (2025)
TensorHub: Scalable and Elastic Weight Transfer for LLM RL Training
di: Ye, Chenhao, et al.
Pubblicazione: (2026)
di: Ye, Chenhao, et al.
Pubblicazione: (2026)
Accelerated Digital Twin Learning for Edge AI: A Comparison of FPGA and Mobile GPU
di: Xu, Bin, et al.
Pubblicazione: (2025)
di: Xu, Bin, et al.
Pubblicazione: (2025)
LeMix: Unified Scheduling for LLM Training and Inference on Multi-GPU Systems
di: Li, Yufei, et al.
Pubblicazione: (2025)
di: Li, Yufei, et al.
Pubblicazione: (2025)
Safactory: A Scalable Agentic Infrastructure for Training Trustworthy Autonomous Intelligence
di: Chen, Xinquan, et al.
Pubblicazione: (2026)
di: Chen, Xinquan, et al.
Pubblicazione: (2026)
ProbSelect: Stochastic Client Selection for GPU-Accelerated Compute Devices in the 3D Continuum
di: Stanisic, Andrija, et al.
Pubblicazione: (2025)
di: Stanisic, Andrija, et al.
Pubblicazione: (2025)
AEGIS: Scaling Long-Sequence Homomorphic Encrypted Transformer Inference via Hybrid Parallelism on Multi-GPU Systems
di: Gong, Zhaoting, et al.
Pubblicazione: (2026)
di: Gong, Zhaoting, et al.
Pubblicazione: (2026)
MSCCL++: Rethinking GPU Communication Abstractions for AI Inference
di: Hwang, Changho, et al.
Pubblicazione: (2025)
di: Hwang, Changho, et al.
Pubblicazione: (2025)
OrchMLLM: Orchestrate Multimodal Data with Batch Post-Balancing to Accelerate Multimodal Large Language Model Training
di: Zheng, Yijie, et al.
Pubblicazione: (2025)
di: Zheng, Yijie, et al.
Pubblicazione: (2025)
Thousand-GPU Large-Scale Training and Optimization Recipe for AI-Native Cloud Embodied Intelligence Infrastructure
di: Guo, Yongjian, et al.
Pubblicazione: (2026)
di: Guo, Yongjian, et al.
Pubblicazione: (2026)
GPU-Virt-Bench: A Comprehensive Benchmarking Framework for Software-Based GPU Virtualization Systems
di: VG, Jithin, et al.
Pubblicazione: (2025)
di: VG, Jithin, et al.
Pubblicazione: (2025)
Practical offloading for fine-tuning LLM on commodity GPU via learned sparse projectors
di: Chen, Siyuan, et al.
Pubblicazione: (2024)
di: Chen, Siyuan, et al.
Pubblicazione: (2024)
FairKV: Balancing Per-Head KV Cache for Fast Multi-GPU Inference
di: Zhao, Bingzhe, et al.
Pubblicazione: (2025)
di: Zhao, Bingzhe, et al.
Pubblicazione: (2025)
TACO: Efficient Communication Compression of Intermediate Tensors for Scalable Tensor-Parallel LLM Training
di: Liu, Man, et al.
Pubblicazione: (2026)
di: Liu, Man, et al.
Pubblicazione: (2026)
HPCTransCompile: An AI Compiler Generated Dataset for High-Performance CUDA Transpilation and LLM Preliminary Exploration
di: Lv, Jiaqi, et al.
Pubblicazione: (2025)
di: Lv, Jiaqi, et al.
Pubblicazione: (2025)
A Scheduling Framework for Efficient MoE Inference on Edge GPU-NDP Systems
di: Wu, Qi, et al.
Pubblicazione: (2026)
di: Wu, Qi, et al.
Pubblicazione: (2026)
GPU Memory Prediction for Multimodal Model Training
di: Jeong, Jinwoo, et al.
Pubblicazione: (2025)
di: Jeong, Jinwoo, et al.
Pubblicazione: (2025)
AIBrix: Towards Scalable, Cost-Effective Large Language Model Inference Infrastructure
di: The AIBrix Team, et al.
Pubblicazione: (2025)
di: The AIBrix Team, et al.
Pubblicazione: (2025)
Act While Thinking: Accelerating LLM Agents via Pattern-Aware Speculative Tool Execution
di: Sui, Yifan, et al.
Pubblicazione: (2026)
di: Sui, Yifan, et al.
Pubblicazione: (2026)
Power- and Fragmentation-aware Online Scheduling for GPU Datacenters
di: Lettich, Francesco, et al.
Pubblicazione: (2024)
di: Lettich, Francesco, et al.
Pubblicazione: (2024)
UCCL-Zip: Lossless Compression Supercharged GPU Communication
di: Ma, Shuang, et al.
Pubblicazione: (2026)
di: Ma, Shuang, et al.
Pubblicazione: (2026)
A Survey on Large Language Model Acceleration based on KV Cache Management
di: Li, Haoyang, et al.
Pubblicazione: (2024)
di: Li, Haoyang, et al.
Pubblicazione: (2024)
Beyond the GPU: The Strategic Role of FPGAs in the Next Wave of AI
di: Jiménez, Arturo Urías
Pubblicazione: (2025)
di: Jiménez, Arturo Urías
Pubblicazione: (2025)
Lobster: A GPU-Accelerated Framework for Neurosymbolic Programming
di: Biberstein, Paul, et al.
Pubblicazione: (2025)
di: Biberstein, Paul, et al.
Pubblicazione: (2025)
FlashRecovery: Fast and Low-Cost Recovery from Failures for Large-Scale Training of LLMs
di: Zhang, Haijun, et al.
Pubblicazione: (2025)
di: Zhang, Haijun, et al.
Pubblicazione: (2025)
Tangram: Accelerating Serverless LLM Loading through GPU Memory Reuse and Affinity
di: Zhu, Wenbin, et al.
Pubblicazione: (2025)
di: Zhu, Wenbin, et al.
Pubblicazione: (2025)
SwizzlePerf: Hardware-Aware LLMs for GPU Kernel Performance Optimization
di: Tschand, Arya, et al.
Pubblicazione: (2025)
di: Tschand, Arya, et al.
Pubblicazione: (2025)
An Efficient Heterogeneous Co-Design for Fine-Tuning on a Single GPU
di: Yang, Ruijia, et al.
Pubblicazione: (2026)
di: Yang, Ruijia, et al.
Pubblicazione: (2026)
Understand and Accelerate Memory Processing Pipeline for Large Language Model Inference
di: He, Zifan, et al.
Pubblicazione: (2026)
di: He, Zifan, et al.
Pubblicazione: (2026)
Beluga: A CXL-Based Memory Architecture for Scalable and Efficient LLM KVCache Management
di: Yang, Xinjun, et al.
Pubblicazione: (2025)
di: Yang, Xinjun, et al.
Pubblicazione: (2025)
Accurate GPU Memory Prediction for Deep Learning Jobs through Dynamic Analysis
di: Shi, Jiabo, et al.
Pubblicazione: (2025)
di: Shi, Jiabo, et al.
Pubblicazione: (2025)
Reducing Fragmentation and Starvation in GPU Clusters through Dynamic Multi-Objective Scheduling
di: Mamirov, Akhmadillo
Pubblicazione: (2025)
di: Mamirov, Akhmadillo
Pubblicazione: (2025)
Xe-Forge: Multi-Stage LLM-Powered Kernel Optimization for Intel GPU
di: Spoczynski, Marcin, et al.
Pubblicazione: (2026)
di: Spoczynski, Marcin, et al.
Pubblicazione: (2026)
Why Should the Server Do It All?: A Scalable, Versatile, and Model-Agnostic Framework for Server-Light DNN Inference over Massively Distributed Clients via Training-Free Intermediate Feature Compression
di: Sung, Mingyu, et al.
Pubblicazione: (2025)
di: Sung, Mingyu, et al.
Pubblicazione: (2025)
Debunking the CUDA Myth Towards GPU-based AI Systems
di: Lee, Yunjae, et al.
Pubblicazione: (2024)
di: Lee, Yunjae, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Accelerating Large Language Model Training with Hybrid GPU-based Compression
di: Xu, Lang, et al.
Pubblicazione: (2024) -
Accelerating Long-Tail Generation in Synchronous RLHF Training via Adaptive Tensor Parallelism
di: Zhao, Long, et al.
Pubblicazione: (2026) -
ClusterFusion: Expanding Operator Fusion Scope for LLM Inference via Cluster-Level Collective Primitive
di: Luo, Xinhao, et al.
Pubblicazione: (2025) -
ParaGAN: A Scalable Distributed Training Framework for Generative Adversarial Networks
di: Shi, Ziji, et al.
Pubblicazione: (2024) -
Speeding up Local Optimization in Vehicle Routing with Tensor-based GPU Acceleration
di: Lei, Zhenyu, et al.
Pubblicazione: (2025)