Patterns behind Chaos: Forecasting Data Movement for Efficient Large-Scale MoE LLM Inference

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Yu, Zhongkai, Guan, Yue, Yu, Zihao, Zhou, Chenyang, Hu, Zhengding, Pei, Shuyi, Kang, Yangwook, Ding, Yufei, Tsai, Po-An
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!