MoE-CAP: Benchmarking Cost, Accuracy and Performance of Sparse Mixture-of-Experts Systems

Ähnliche Einträge

• MoE-CAP: Benchmarking Cost, Accuracy and Performance of Sparse Mixture-of-Experts Systems
  von: Jiang, Yinsicheng, et al.
  Veröffentlicht: (2024)
• MoE-Gen: High-Throughput MoE Inference on a Single GPU with Module-Based Batching
  von: Xu, Tairan, et al.
  Veröffentlicht: (2025)
• MoE-Infinity: Efficient MoE Inference on Personal Machines with Sparsity-Aware Expert Cache
  von: Xue, Leyang, et al.
  Veröffentlicht: (2024)
• WaferLLM: Large Language Model Inference at Wafer Scale
  von: He, Congjie, et al.
  Veröffentlicht: (2025)
• SEER-MoE: Sparse Expert Efficiency through Regularization for Mixture-of-Experts
  von: Muzio, Alexandre, et al.
  Veröffentlicht: (2024)