RotMoLE: Enhancing Mixture of Low-Rank Experts through Rotational Gating Mechanism

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Sun, Mengyang, Dou, Maochuan, Feng, Tao, Zhang, Dan, Wang, Yihao, Liu, Junpeng, Zhu, Yifan, Tang, Jie
Format: Preprint
Veröffentlicht: 2026
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!