GRACE-MoE: Grouping and Replication with Locality-Aware Routing for Efficient Distributed MoE Inference

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Han, Yu, Pan, Lehan, Peng, Jie, Tao, Ziyang, Zhu, Hanqi, Zhang, Wuyang, Zhang, Yanyong
Format: Preprint
Publié: 2025
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!