Fast MoE Inference via Predictive Prefetching and Expert Replication

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Jyothish, Ankit, Jannesari, Ali, Sarkar, Aishwarya, Zuber, Joseph
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!