RAPID-LLM: Resilience-Aware Performance analysis of Infrastructure for Distributed LLM Training and Inference

Ähnliche Einträge

• LMDeploy Accelerates Mixed-Precision LLM Inference with TurboMind
  von: Zhang, Li, et al.
  Veröffentlicht: (2025)
• Fine-Grained Energy Prediction For Parallellized LLM Inference With PIE-P
  von: Dutt, Anurag, et al.
  Veröffentlicht: (2025)
• HybridGen: Efficient LLM Generative Inference via CPU-GPU Hybrid Computing
  von: Lin, Mao, et al.
  Veröffentlicht: (2026)
• Opt4GPTQ: Co-Optimizing Memory and Computation for 4-bit GPTQ Quantized LLM Inference on Heterogeneous Platforms
  von: Zhang, Yaozheng, et al.
  Veröffentlicht: (2025)
• KVPR: Efficient LLM Inference with I/O-Aware KV Cache Partial Recomputation
  von: Jiang, Chaoyi, et al.
  Veröffentlicht: (2024)