TriMoE: Augmenting GPU with AMX-Enabled CPU and DIMM-NDP for High-Throughput MoE Inference via Offloading

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Pan, Yudong, He, Yintao, Han, Tianhua, Liu, Lian, Zhao, Shixin, Chen, Zhirong, Wang, Mengdi, Li, Cangyuan, Han, Yinhe, Wang, Ying
Formato:	Preprint
Publicado:	2026
Materias:	Hardware Architecture Artificial Intelligence Distributed, Parallel, and Cluster Computing
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2603.01058