HDEE: Heterogeneous Domain Expert Ensemble
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Ersoy, Oğuzhan, Kolehmainen, Jari, Andrade, Gabriel Passamani |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
SkipPipe: Partial and Reordered Pipelining Framework for Training LLMs in Heterogeneous Networks
par: Blagoev, Nikolay, et autres
Publié: (2025)
par: Blagoev, Nikolay, et autres
Publié: (2025)
All is Not Lost: LLM Recovery without Checkpoints
par: Blagoev, Nikolay, et autres
Publié: (2025)
par: Blagoev, Nikolay, et autres
Publié: (2025)
Resource-Aware Aggregation and Sparsification in Heterogeneous Ensemble Federated Learning
par: Ryum, Keumseo, et autres
Publié: (2025)
par: Ryum, Keumseo, et autres
Publié: (2025)
HeterMoE: Efficient Training of Mixture-of-Experts Models on Heterogeneous GPUs
par: Wu, Yongji, et autres
Publié: (2025)
par: Wu, Yongji, et autres
Publié: (2025)
pFedMoE: Data-Level Personalization with Mixture of Experts for Model-Heterogeneous Personalized Federated Learning
par: Yi, Liping, et autres
Publié: (2024)
par: Yi, Liping, et autres
Publié: (2024)
FedMoE-DA: Federated Mixture of Experts via Domain Aware Fine-grained Aggregation
par: Zhan, Ziwei, et autres
Publié: (2024)
par: Zhan, Ziwei, et autres
Publié: (2024)
MegaScale-Infer: Serving Mixture-of-Experts at Scale with Disaggregated Expert Parallelism
par: Zhu, Ruidong, et autres
Publié: (2025)
par: Zhu, Ruidong, et autres
Publié: (2025)
MoETuner: Optimized Mixture of Expert Serving with Balanced Expert Placement and Token Routing
par: Go, Seokjin, et autres
Publié: (2025)
par: Go, Seokjin, et autres
Publié: (2025)
CRAFT: Fine-Grained Cost-Aware Expert Replication For Efficient Mixture-of-Experts Serving
par: Zhao, Adrian, et autres
Publié: (2026)
par: Zhao, Adrian, et autres
Publié: (2026)
Scattered Mixture-of-Experts Implementation
par: Tan, Shawn, et autres
Publié: (2024)
par: Tan, Shawn, et autres
Publié: (2024)
LAER-MoE: Load-Adaptive Expert Re-layout for Efficient Mixture-of-Experts Training
par: Liu, Xinyi, et autres
Publié: (2026)
par: Liu, Xinyi, et autres
Publié: (2026)
Revisiting Ensembling in One-Shot Federated Learning
par: Allouah, Youssef, et autres
Publié: (2024)
par: Allouah, Youssef, et autres
Publié: (2024)
MoE-SpeQ: Speculative Quantized Decoding with Proactive Expert Prefetching and Offloading for Mixture-of-Experts
par: Wang, Wenfeng, et autres
Publié: (2025)
par: Wang, Wenfeng, et autres
Publié: (2025)
Lazarus: Resilient and Elastic Training of Mixture-of-Experts Models
par: Wu, Yongji, et autres
Publié: (2024)
par: Wu, Yongji, et autres
Publié: (2024)
An Ensemble Scheme for Proactive Dominant Data Migration of Pervasive Tasks at the Edge
par: Boulougaris, Georgios, et autres
Publié: (2024)
par: Boulougaris, Georgios, et autres
Publié: (2024)
Heterogeneous Federated Learning with Prototype Alignment and Upscaling
par: Lee, Gyuejeong, et autres
Publié: (2025)
par: Lee, Gyuejeong, et autres
Publié: (2025)
Hypernetworks for Model-Heterogeneous Personalized Federated Learning
par: Zhang, Chen, et autres
Publié: (2025)
par: Zhang, Chen, et autres
Publié: (2025)
STHFL: Spatio-Temporal Heterogeneous Federated Learning
par: Guo, Shunxin, et autres
Publié: (2025)
par: Guo, Shunxin, et autres
Publié: (2025)
Learnable Sparse Customization in Heterogeneous Edge Computing
par: Xue, Jingjing, et autres
Publié: (2024)
par: Xue, Jingjing, et autres
Publié: (2024)
Federated Model Heterogeneous Matryoshka Representation Learning
par: Yi, Liping, et autres
Publié: (2024)
par: Yi, Liping, et autres
Publié: (2024)
FLASH: Federated Learning Across Simultaneous Heterogeneities
par: Chang, Xiangyu, et autres
Publié: (2024)
par: Chang, Xiangyu, et autres
Publié: (2024)
Optimizing Distributed Deployment of Mixture-of-Experts Model Inference in Serverless Computing
par: Liu, Mengfan, et autres
Publié: (2025)
par: Liu, Mengfan, et autres
Publié: (2025)
Stress Monitoring in Healthcare: An Ensemble Machine Learning Framework Using Wearable Sensor Data
par: Sinhal, Arpana, et autres
Publié: (2025)
par: Sinhal, Arpana, et autres
Publié: (2025)
GOGH: Correlation-Guided Orchestration of GPUs in Heterogeneous Clusters
par: Raeisi, Ahmad, et autres
Publié: (2025)
par: Raeisi, Ahmad, et autres
Publié: (2025)
Knowledge-Driven Federated Graph Learning on Model Heterogeneity
par: Wu, Zhengyu, et autres
Publié: (2025)
par: Wu, Zhengyu, et autres
Publié: (2025)
An Efficient Subspace Algorithm for Federated Learning on Heterogeneous Data
par: Zhang, Jiaojiao, et autres
Publié: (2025)
par: Zhang, Jiaojiao, et autres
Publié: (2025)
Efficient Unified Caching for Accelerating Heterogeneous AI Workloads
par: Wang, Tianze, et autres
Publié: (2025)
par: Wang, Tianze, et autres
Publié: (2025)
Heterogeneous Federated Learning with Convolutional and Spiking Neural Networks
par: Yu, Yingchao, et autres
Publié: (2024)
par: Yu, Yingchao, et autres
Publié: (2024)
Heterogeneity: An Open Challenge for Federated On-board Machine Learning
par: Hartmann, Maria, et autres
Publié: (2024)
par: Hartmann, Maria, et autres
Publié: (2024)
Convergence Analysis of Split Federated Learning on Heterogeneous Data
par: Han, Pengchao, et autres
Publié: (2024)
par: Han, Pengchao, et autres
Publié: (2024)
HetCCL: Accelerating LLM Training with Heterogeneous GPUs
par: Kim, Heehoon, et autres
Publié: (2026)
par: Kim, Heehoon, et autres
Publié: (2026)
Averaging Rate Scheduler for Decentralized Learning on Heterogeneous Data
par: Aketi, Sai Aparna, et autres
Publié: (2024)
par: Aketi, Sai Aparna, et autres
Publié: (2024)
Tackling Privacy Heterogeneity in Differentially Private Federated Learning
par: Xu, Ruichen, et autres
Publié: (2026)
par: Xu, Ruichen, et autres
Publié: (2026)
Heterogeneous Parallelism for Multimodal Large Language Model Training
par: Karnati, Yashaswi, et autres
Publié: (2026)
par: Karnati, Yashaswi, et autres
Publié: (2026)
Algorithms for Collaborative Machine Learning under Statistical Heterogeneity
par: Hahn, Seok-Ju
Publié: (2024)
par: Hahn, Seok-Ju
Publié: (2024)
SYMI: Efficient Mixture-of-Experts Training via Model and Optimizer State Decoupling
par: Skiadopoulos, Athinagoras, et autres
Publié: (2025)
par: Skiadopoulos, Athinagoras, et autres
Publié: (2025)
Entry Dependent Expert Selection in Distributed Gaussian Processes Using Multilabel Classification
par: Jalali, Hamed, et autres
Publié: (2022)
par: Jalali, Hamed, et autres
Publié: (2022)
The Streaming Batch Model for Efficient and Fault-Tolerant Heterogeneous Execution
par: Luan, Frank Sifei, et autres
Publié: (2025)
par: Luan, Frank Sifei, et autres
Publié: (2025)
Fed-REACT: Federated Representation Learning for Heterogeneous and Evolving Data
par: Chen, Yiyue, et autres
Publié: (2025)
par: Chen, Yiyue, et autres
Publié: (2025)
TetriServe: Efficient DiT Serving for Heterogeneous Image Generation
par: Lu, Runyu, et autres
Publié: (2025)
par: Lu, Runyu, et autres
Publié: (2025)
Documents similaires
-
SkipPipe: Partial and Reordered Pipelining Framework for Training LLMs in Heterogeneous Networks
par: Blagoev, Nikolay, et autres
Publié: (2025) -
All is Not Lost: LLM Recovery without Checkpoints
par: Blagoev, Nikolay, et autres
Publié: (2025) -
Resource-Aware Aggregation and Sparsification in Heterogeneous Ensemble Federated Learning
par: Ryum, Keumseo, et autres
Publié: (2025) -
HeterMoE: Efficient Training of Mixture-of-Experts Models on Heterogeneous GPUs
par: Wu, Yongji, et autres
Publié: (2025) -
pFedMoE: Data-Level Personalization with Mixture of Experts for Model-Heterogeneous Personalized Federated Learning
par: Yi, Liping, et autres
Publié: (2024)