FLEX-MoE: Federated Mixture-of-Experts with Load-balanced Expert Assignment for Edge Computing
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Zhang, Boyang, Chen, Xiaobing, Zhang, Songyang, Zhang, Shuai, Zhou, Xiangwei, Zhang, Jian, Sun, Mingxuan |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Efficient Training of Large-Scale AI Models Through Federated Mixture-of-Experts: A System-Level Approach
von: Chen, Xiaobing, et al.
Veröffentlicht: (2025)
von: Chen, Xiaobing, et al.
Veröffentlicht: (2025)
Towards Efficient Federated Learning of Networked Mixture-of-Experts for Mobile Edge Computing
von: Gao, Song, et al.
Veröffentlicht: (2025)
von: Gao, Song, et al.
Veröffentlicht: (2025)
DualGFL: Federated Learning with a Dual-Level Coalition-Auction Game
von: Chen, Xiaobing, et al.
Veröffentlicht: (2024)
von: Chen, Xiaobing, et al.
Veröffentlicht: (2024)
Mixture-of-Experts for Distributed Edge Computing with Channel-Aware Gating Function
von: Song, Qiuchen, et al.
Veröffentlicht: (2025)
von: Song, Qiuchen, et al.
Veröffentlicht: (2025)
MoE-DisCo:Low Economy Cost Training Mixture-of-Experts Models
von: Ye, Xin, et al.
Veröffentlicht: (2026)
von: Ye, Xin, et al.
Veröffentlicht: (2026)
MoBE: Mixture-of-Basis-Experts for Compressing MoE-based LLMs
von: Chen, Xiaodong, et al.
Veröffentlicht: (2025)
von: Chen, Xiaodong, et al.
Veröffentlicht: (2025)
MoE++: Accelerating Mixture-of-Experts Methods with Zero-Computation Experts
von: Jin, Peng, et al.
Veröffentlicht: (2024)
von: Jin, Peng, et al.
Veröffentlicht: (2024)
MoE-SpeQ: Speculative Quantized Decoding with Proactive Expert Prefetching and Offloading for Mixture-of-Experts
von: Wang, Wenfeng, et al.
Veröffentlicht: (2025)
von: Wang, Wenfeng, et al.
Veröffentlicht: (2025)
Horseshoe Mixtures-of-Experts (HS-MoE)
von: Polson, Nick, et al.
Veröffentlicht: (2026)
von: Polson, Nick, et al.
Veröffentlicht: (2026)
FT-MoE: Sustainable-learning Mixture of Experts for Fault-Tolerant Computing
von: Xiao, Wenjing, et al.
Veröffentlicht: (2025)
von: Xiao, Wenjing, et al.
Veröffentlicht: (2025)
$\infty$-MoE: Generalizing Mixture of Experts to Infinite Experts
von: Takashiro, Shota, et al.
Veröffentlicht: (2026)
von: Takashiro, Shota, et al.
Veröffentlicht: (2026)
SEER-MoE: Sparse Expert Efficiency through Regularization for Mixture-of-Experts
von: Muzio, Alexandre, et al.
Veröffentlicht: (2024)
von: Muzio, Alexandre, et al.
Veröffentlicht: (2024)
EAC-MoE: Expert-Selection Aware Compressor for Mixture-of-Experts Large Language Models
von: Chen, Yuanteng, et al.
Veröffentlicht: (2025)
von: Chen, Yuanteng, et al.
Veröffentlicht: (2025)
LAER-MoE: Load-Adaptive Expert Re-layout for Efficient Mixture-of-Experts Training
von: Liu, Xinyi, et al.
Veröffentlicht: (2026)
von: Liu, Xinyi, et al.
Veröffentlicht: (2026)
EvoESAP: Non-Uniform Expert Pruning for Sparse MoE
von: Liu, Zongfang, et al.
Veröffentlicht: (2026)
von: Liu, Zongfang, et al.
Veröffentlicht: (2026)
MoE-Prism: Disentangling Monolithic Experts for Elastic MoE Services via Model-System Co-Designs
von: Xia, Xinfeng, et al.
Veröffentlicht: (2025)
von: Xia, Xinfeng, et al.
Veröffentlicht: (2025)
Elastic MoE: Unlocking the Inference-Time Scalability of Mixture-of-Experts
von: Gu, Naibin, et al.
Veröffentlicht: (2025)
von: Gu, Naibin, et al.
Veröffentlicht: (2025)
DA-MoE: Towards Dynamic Expert Allocation for Mixture-of-Experts Models
von: Aghdam, Maryam Akhavan, et al.
Veröffentlicht: (2024)
von: Aghdam, Maryam Akhavan, et al.
Veröffentlicht: (2024)
Alloc-MoE: Budget-Aware Expert Activation Allocation for Efficient Mixture-of-Experts Inference
von: Liu, Baihui, et al.
Veröffentlicht: (2026)
von: Liu, Baihui, et al.
Veröffentlicht: (2026)
VA-MoE: Variables-Adaptive Mixture of Experts for Incremental Weather Forecasting
von: Chen, Hao, et al.
Veröffentlicht: (2024)
von: Chen, Hao, et al.
Veröffentlicht: (2024)
MoE-GPS: Guidlines for Prediction Strategy for Dynamic Expert Duplication in MoE Load Balancing
von: Ma, Haiyue, et al.
Veröffentlicht: (2025)
von: Ma, Haiyue, et al.
Veröffentlicht: (2025)
PC-MoE: Memory-Efficient and Privacy-Preserving Collaborative Training for Mixture-of-Experts LLMs
von: Zhang, Ze Yu, et al.
Veröffentlicht: (2025)
von: Zhang, Ze Yu, et al.
Veröffentlicht: (2025)
Flex-MoE: Modeling Arbitrary Modality Combination via the Flexible Mixture-of-Experts
von: Yun, Sukwon, et al.
Veröffentlicht: (2024)
von: Yun, Sukwon, et al.
Veröffentlicht: (2024)
Sub-MoE: Efficient Mixture-of-Expert LLMs Compression via Subspace Expert Merging
von: Li, Lujun, et al.
Veröffentlicht: (2025)
von: Li, Lujun, et al.
Veröffentlicht: (2025)
Mixture of Experts (MoE): A Big Data Perspective
von: Gan, Wensheng, et al.
Veröffentlicht: (2025)
von: Gan, Wensheng, et al.
Veröffentlicht: (2025)
SDG-MoE: Signed Debate Graph Mixture-of-Experts
von: Kulibaba, Stepan, et al.
Veröffentlicht: (2026)
von: Kulibaba, Stepan, et al.
Veröffentlicht: (2026)
BrainNet-MoE: Brain-Inspired Mixture-of-Experts Learning for Neurological Disease Identification
von: Zhang, Jing, et al.
Veröffentlicht: (2025)
von: Zhang, Jing, et al.
Veröffentlicht: (2025)
MoNE: Replacing Redundant Experts with Lightweight Novices for Structured Pruning of MoE
von: Zhang, Geng, et al.
Veröffentlicht: (2025)
von: Zhang, Geng, et al.
Veröffentlicht: (2025)
PreMoE: Proactive Inference for Efficient Mixture-of-Experts
von: Pei, Zehua, et al.
Veröffentlicht: (2025)
von: Pei, Zehua, et al.
Veröffentlicht: (2025)
MoQE: Improve Quantization Model performance via Mixture of Quantization Experts
von: Zhang, Jinhao, et al.
Veröffentlicht: (2025)
von: Zhang, Jinhao, et al.
Veröffentlicht: (2025)
Expert Divergence Learning for MoE-based Language Models
von: Li, Jiaang, et al.
Veröffentlicht: (2026)
von: Li, Jiaang, et al.
Veröffentlicht: (2026)
SD-MoE: Spectral Decomposition for Effective Expert Specialization
von: Huang, Ruijun, et al.
Veröffentlicht: (2026)
von: Huang, Ruijun, et al.
Veröffentlicht: (2026)
PWC-MoE: Privacy-Aware Wireless Collaborative Mixture of Experts
von: Su, Yang, et al.
Veröffentlicht: (2025)
von: Su, Yang, et al.
Veröffentlicht: (2025)
Anchor-MoE: A Mean-Anchored Mixture of Experts For Probabilistic Regression
von: Su, Baozhuo, et al.
Veröffentlicht: (2025)
von: Su, Baozhuo, et al.
Veröffentlicht: (2025)
HI-MoE: Hierarchical Instance-Conditioned Mixture-of-Experts for Object Detection
von: Vashkelis, Vadim, et al.
Veröffentlicht: (2026)
von: Vashkelis, Vadim, et al.
Veröffentlicht: (2026)
Linear-MoE: Linear Sequence Modeling Meets Mixture-of-Experts
von: Sun, Weigao, et al.
Veröffentlicht: (2025)
von: Sun, Weigao, et al.
Veröffentlicht: (2025)
MoE-Beyond: Learning-Based Expert Activation Prediction on Edge Devices
von: Gavhane, Nishant, et al.
Veröffentlicht: (2025)
von: Gavhane, Nishant, et al.
Veröffentlicht: (2025)
Time-MoE: Billion-Scale Time Series Foundation Models with Mixture of Experts
von: Shi, Xiaoming, et al.
Veröffentlicht: (2024)
von: Shi, Xiaoming, et al.
Veröffentlicht: (2024)
DyMoE: Dynamic Expert Orchestration with Mixed-Precision Quantization for Efficient MoE Inference on Edge
von: Huang, Yuegui, et al.
Veröffentlicht: (2026)
von: Huang, Yuegui, et al.
Veröffentlicht: (2026)
MoE-Compression: How the Compression Error of Experts Affects the Inference Accuracy of MoE Model?
von: Ma, Songkai, et al.
Veröffentlicht: (2025)
von: Ma, Songkai, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
Efficient Training of Large-Scale AI Models Through Federated Mixture-of-Experts: A System-Level Approach
von: Chen, Xiaobing, et al.
Veröffentlicht: (2025) -
Towards Efficient Federated Learning of Networked Mixture-of-Experts for Mobile Edge Computing
von: Gao, Song, et al.
Veröffentlicht: (2025) -
DualGFL: Federated Learning with a Dual-Level Coalition-Auction Game
von: Chen, Xiaobing, et al.
Veröffentlicht: (2024) -
Mixture-of-Experts for Distributed Edge Computing with Channel-Aware Gating Function
von: Song, Qiuchen, et al.
Veröffentlicht: (2025) -
MoE-DisCo:Low Economy Cost Training Mixture-of-Experts Models
von: Ye, Xin, et al.
Veröffentlicht: (2026)