Post-Trained MoE Can Skip Half Experts via Self-Distillation

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Lv, Xingtai, Sheng, Li, Zhang, Kaiyan, You, Yichen, Gao, Siyan, Luo, Xueheng, Zuo, Yuxin, Fan, Yuchen, Yang, Junlin, Cui, Ganqu, Wang, Bingning, Yang, Fan, Sun, Youbang, Ding, Ning, Zhou, Bowen
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!