Accelerating MoE Model Inference with Expert Sharding

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Balmau, Oana, Kermarrec, Anne-Marie, Pires, Rafael, Santo, André Loureiro Espírito, de Vos, Martijn, Vujasinovic, Milos
Format: Preprint
Veröffentlicht: 2025
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!