Gespeichert in:
| Hauptverfasser: | Chai, Ziwei, Wang, Guoyin, Su, Jing, Zhang, Tianjie, Huang, Xuanwen, Wang, Xuwu, Xu, Jingjing, Yuan, Jianbo, Yang, Hongxia, Wu, Fei, Yang, Yang |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | https://arxiv.org/abs/2403.16854 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Route Experts by Sequence, not by Token
von: Wen, Tiansheng, et al.
Veröffentlicht: (2025)
von: Wen, Tiansheng, et al.
Veröffentlicht: (2025)
Retrieval-Augmented Mixture of LoRA Experts for Uploadable Machine Learning
von: Zhao, Ziyu, et al.
Veröffentlicht: (2024)
von: Zhao, Ziyu, et al.
Veröffentlicht: (2024)
Generalizing GNNs with Tokenized Mixture of Experts
von: Guo, Xiaoguang, et al.
Veröffentlicht: (2026)
von: Guo, Xiaoguang, et al.
Veröffentlicht: (2026)
InfiAgent-DABench: Evaluating Agents on Data Analysis Tasks
von: Hu, Xueyu, et al.
Veröffentlicht: (2024)
von: Hu, Xueyu, et al.
Veröffentlicht: (2024)
MoETuner: Optimized Mixture of Expert Serving with Balanced Expert Placement and Token Routing
von: Go, Seokjin, et al.
Veröffentlicht: (2025)
von: Go, Seokjin, et al.
Veröffentlicht: (2025)
Each Rank Could be an Expert: Single-Ranked Mixture of Experts LoRA for Multi-Task Learning
von: Zhao, Ziyu, et al.
Veröffentlicht: (2025)
von: Zhao, Ziyu, et al.
Veröffentlicht: (2025)
Improving Routing in Sparse Mixture of Experts with Graph of Tokens
von: Nguyen, Tam, et al.
Veröffentlicht: (2025)
von: Nguyen, Tam, et al.
Veröffentlicht: (2025)
AdaMoE: Token-Adaptive Routing with Null Experts for Mixture-of-Experts Language Models
von: Zeng, Zihao, et al.
Veröffentlicht: (2024)
von: Zeng, Zihao, et al.
Veröffentlicht: (2024)
2Xplat: Two Experts Are Better Than One Generalist
von: Jeong, Hwasik, et al.
Veröffentlicht: (2026)
von: Jeong, Hwasik, et al.
Veröffentlicht: (2026)
ExpertFlow: Efficient Mixture-of-Experts Inference via Predictive Expert Caching and Token Scheduling
von: He, Xin, et al.
Veröffentlicht: (2024)
von: He, Xin, et al.
Veröffentlicht: (2024)
One Request, Multiple Experts: LLM Orchestrates Domain Specific Models via Adaptive Task Routing
von: Yang, Xu, et al.
Veröffentlicht: (2025)
von: Yang, Xu, et al.
Veröffentlicht: (2025)
Multilingual Routing in Mixture-of-Experts
von: Bandarkar, Lucas, et al.
Veröffentlicht: (2025)
von: Bandarkar, Lucas, et al.
Veröffentlicht: (2025)
Can GNN be Good Adapter for LLMs?
von: Huang, Xuanwen, et al.
Veröffentlicht: (2024)
von: Huang, Xuanwen, et al.
Veröffentlicht: (2024)
Sparse Models, Sparse Safety: Unsafe Routes in Mixture-of-Experts LLMs
von: Jiang, Yukun, et al.
Veröffentlicht: (2026)
von: Jiang, Yukun, et al.
Veröffentlicht: (2026)
Union of Experts: Adapting Hierarchical Routing to Equivalently Decomposed Transformer
von: Yang, Yujiao, et al.
Veröffentlicht: (2025)
von: Yang, Yujiao, et al.
Veröffentlicht: (2025)
Expert-Token Resonance MoE: Bidirectional Routing with Efficiency Affinity-Driven Active Selection
von: Li, Jing, et al.
Veröffentlicht: (2024)
von: Li, Jing, et al.
Veröffentlicht: (2024)
Solving Token Gradient Conflict in Mixture-of-Experts for Large Vision-Language Model
von: Yang, Longrong, et al.
Veröffentlicht: (2024)
von: Yang, Longrong, et al.
Veröffentlicht: (2024)
Understanding Multilingualism in Mixture-of-Experts LLMs: Routing Mechanism, Expert Specialization, and Layerwise Steering
von: Chen, Yuxin, et al.
Veröffentlicht: (2026)
von: Chen, Yuxin, et al.
Veröffentlicht: (2026)
MaskMoE: Boosting Token-Level Learning via Routing Mask in Mixture-of-Experts
von: Su, Zhenpeng, et al.
Veröffentlicht: (2024)
von: Su, Zhenpeng, et al.
Veröffentlicht: (2024)
Expert Race: A Flexible Routing Strategy for Scaling Diffusion Transformer with Mixture of Experts
von: Yuan, Yike, et al.
Veröffentlicht: (2025)
von: Yuan, Yike, et al.
Veröffentlicht: (2025)
ALTER: All-in-One Layer Pruning and Temporal Expert Routing for Efficient Diffusion Generation
von: Yang, Xiaomeng, et al.
Veröffentlicht: (2025)
von: Yang, Xiaomeng, et al.
Veröffentlicht: (2025)
DiagLink: A Dual-User Diagnostic Assistance System by Synergizing Experts with LLMs and Knowledge Graphs
von: Zhou, Zihan, et al.
Veröffentlicht: (2026)
von: Zhou, Zihan, et al.
Veröffentlicht: (2026)
SEUF: Is Unlearning One Expert Enough for Mixture-of-Experts LLMs?
von: Zhuang, Haomin, et al.
Veröffentlicht: (2024)
von: Zhuang, Haomin, et al.
Veröffentlicht: (2024)
Data Driven Automatic Electrical Machine Preliminary Design with Artificial Intelligence Expert Guidance
von: Wang, Yiwei, et al.
Veröffentlicht: (2024)
von: Wang, Yiwei, et al.
Veröffentlicht: (2024)
BabelBench: An Omni Benchmark for Code-Driven Analysis of Multimodal and Multistructured Data
von: Wang, Xuwu, et al.
Veröffentlicht: (2024)
von: Wang, Xuwu, et al.
Veröffentlicht: (2024)
A Time Series is Worth Five Experts: Heterogeneous Mixture of Experts for Traffic Flow Prediction
von: Wang, Guangyu, et al.
Veröffentlicht: (2024)
von: Wang, Guangyu, et al.
Veröffentlicht: (2024)
Quality-of-Service Aware LLM Routing for Edge Computing with Multiple Experts
von: Yang, Jin, et al.
Veröffentlicht: (2025)
von: Yang, Jin, et al.
Veröffentlicht: (2025)
Misrouter: Exploiting Routing Mechanisms for Input-Only Attacks on Mixture-of-Experts LLMs
von: Fei, Zekun, et al.
Veröffentlicht: (2026)
von: Fei, Zekun, et al.
Veröffentlicht: (2026)
BadMoE: Backdooring Mixture-of-Experts LLMs via Optimizing Routing Triggers and Infecting Dormant Experts
von: Wang, Qingyue, et al.
Veröffentlicht: (2025)
von: Wang, Qingyue, et al.
Veröffentlicht: (2025)
Chimera: Improving Generalist Model with Domain-Specific Experts
von: Peng, Tianshuo, et al.
Veröffentlicht: (2024)
von: Peng, Tianshuo, et al.
Veröffentlicht: (2024)
A Creative Agent is Worth a 64-Token Template
von: Shi, Ruixiao, et al.
Veröffentlicht: (2026)
von: Shi, Ruixiao, et al.
Veröffentlicht: (2026)
Understanding and Leveraging the Expert Specialization of Context Faithfulness in Mixture-of-Experts LLMs
von: Bai, Jun, et al.
Veröffentlicht: (2025)
von: Bai, Jun, et al.
Veröffentlicht: (2025)
Dropping Experts, Recombining Neurons: Retraining-Free Pruning for Sparse Mixture-of-Experts LLMs
von: Zhou, Yixiao, et al.
Veröffentlicht: (2025)
von: Zhou, Yixiao, et al.
Veröffentlicht: (2025)
Access Sets Matter: Budgeting Expert Reads for Scalable Weight-Space Model Merging
von: Wang, Yuanyi, et al.
Veröffentlicht: (2026)
von: Wang, Yuanyi, et al.
Veröffentlicht: (2026)
A Bounding Box is Worth One Token: Interleaving Layout and Text in a Large Language Model for Document Understanding
von: Lu, Jinghui, et al.
Veröffentlicht: (2024)
von: Lu, Jinghui, et al.
Veröffentlicht: (2024)
Dynamic Experts Search: Enhancing Reasoning in Mixture-of-Experts LLMs at Test Time
von: Han, Yixuan, et al.
Veröffentlicht: (2025)
von: Han, Yixuan, et al.
Veröffentlicht: (2025)
ExpertSteer: Intervening in LLMs through Expert Knowledge
von: Wang, Weixuan, et al.
Veröffentlicht: (2025)
von: Wang, Weixuan, et al.
Veröffentlicht: (2025)
Bridging Perception and Reasoning: Token Reweighting for RLVR in Multimodal LLMs
von: Lu, Jinda, et al.
Veröffentlicht: (2026)
von: Lu, Jinda, et al.
Veröffentlicht: (2026)
Expert-Guided Extinction of Toxic Tokens for Debiased Generation
von: Sun, Xueyao, et al.
Veröffentlicht: (2024)
von: Sun, Xueyao, et al.
Veröffentlicht: (2024)
Mixture of Nested Experts: Adaptive Processing of Visual Tokens
von: Jain, Gagan, et al.
Veröffentlicht: (2024)
von: Jain, Gagan, et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
Route Experts by Sequence, not by Token
von: Wen, Tiansheng, et al.
Veröffentlicht: (2025) -
Retrieval-Augmented Mixture of LoRA Experts for Uploadable Machine Learning
von: Zhao, Ziyu, et al.
Veröffentlicht: (2024) -
Generalizing GNNs with Tokenized Mixture of Experts
von: Guo, Xiaoguang, et al.
Veröffentlicht: (2026) -
InfiAgent-DABench: Evaluating Agents on Data Analysis Tasks
von: Hu, Xueyu, et al.
Veröffentlicht: (2024) -
MoETuner: Optimized Mixture of Expert Serving with Balanced Expert Placement and Token Routing
von: Go, Seokjin, et al.
Veröffentlicht: (2025)