ViMoE: An Empirical Study of Designing Vision Mixture-of-Experts
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Han, Xumeng, Wei, Longhui, Dou, Zhiyang, Wang, Zipeng, Qiang, Chenhui, He, Xin, Sun, Yingfei, Han, Zhenjun, Tian, Qi |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Mixpert: Mitigating Multimodal Learning Conflicts with Efficient Mixture-of-Vision-Experts
von: He, Xin, et al.
Veröffentlicht: (2025)
von: He, Xin, et al.
Veröffentlicht: (2025)
Boosting Segment Anything Model Towards Open-Vocabulary Learning
von: Han, Xumeng, et al.
Veröffentlicht: (2023)
von: Han, Xumeng, et al.
Veröffentlicht: (2023)
GaGA: Towards Interactive Global Geolocation Assistant
von: Dou, Zhiyang, et al.
Veröffentlicht: (2024)
von: Dou, Zhiyang, et al.
Veröffentlicht: (2024)
VER-Bench: Evaluating MLLMs on Reasoning with Fine-Grained Visual Evidence
von: Qiang, Chenhui, et al.
Veröffentlicht: (2025)
von: Qiang, Chenhui, et al.
Veröffentlicht: (2025)
AD^2-Bench: A Hierarchical CoT Benchmark for MLLM in Autonomous Driving under Adverse Conditions
von: Wei, Zhaoyang, et al.
Veröffentlicht: (2025)
von: Wei, Zhaoyang, et al.
Veröffentlicht: (2025)
P2Seg: Pointly-supervised Segmentation via Mutual Distillation
von: Wang, Zipeng, et al.
Veröffentlicht: (2024)
von: Wang, Zipeng, et al.
Veröffentlicht: (2024)
Incorporating Visual Experts to Resolve the Information Loss in Multimodal Large Language Models
von: He, Xin, et al.
Veröffentlicht: (2024)
von: He, Xin, et al.
Veröffentlicht: (2024)
HeroGS: Hierarchical Guidance for Robust 3D Gaussian Splatting under Sparse Views
von: Li, Jiashu, et al.
Veröffentlicht: (2026)
von: Li, Jiashu, et al.
Veröffentlicht: (2026)
Routers in Vision Mixture of Experts: An Empirical Study
von: Liu, Tianlin, et al.
Veröffentlicht: (2024)
von: Liu, Tianlin, et al.
Veröffentlicht: (2024)
MoDEM: Mixture of Domain Expert Models
von: Simonds, Toby, et al.
Veröffentlicht: (2024)
von: Simonds, Toby, et al.
Veröffentlicht: (2024)
SAPNet++: Evolving Point-Prompted Instance Segmentation with Semantic and Spatial Awareness
von: Wei, Zhaoyang, et al.
Veröffentlicht: (2026)
von: Wei, Zhaoyang, et al.
Veröffentlicht: (2026)
SAM-CP: Marrying SAM with Composable Prompts for Versatile Segmentation
von: Chen, Pengfei, et al.
Veröffentlicht: (2024)
von: Chen, Pengfei, et al.
Veröffentlicht: (2024)
MoBiLE: Efficient Mixture-of-Experts Inference on Consumer GPU with Mixture of Big Little Experts
von: Zhao, Yushu, et al.
Veröffentlicht: (2025)
von: Zhao, Yushu, et al.
Veröffentlicht: (2025)
SEER-MoE: Sparse Expert Efficiency through Regularization for Mixture-of-Experts
von: Muzio, Alexandre, et al.
Veröffentlicht: (2024)
von: Muzio, Alexandre, et al.
Veröffentlicht: (2024)
MoEMeta: Mixture-of-Experts Meta Learning for Few-Shot Relational Learning
von: Wu, Han, et al.
Veröffentlicht: (2025)
von: Wu, Han, et al.
Veröffentlicht: (2025)
MoLAE: Mixture of Latent Experts for Parameter-Efficient Language Models
von: Liu, Zehua, et al.
Veröffentlicht: (2025)
von: Liu, Zehua, et al.
Veröffentlicht: (2025)
Sub-MoE: Efficient Mixture-of-Expert LLMs Compression via Subspace Expert Merging
von: Li, Lujun, et al.
Veröffentlicht: (2025)
von: Li, Lujun, et al.
Veröffentlicht: (2025)
MoEScore: Mixture-of-Experts-Based Text-Audio Relevance Score Prediction for Text-to-Audio System Evaluation
von: Sun, Bochao, et al.
Veröffentlicht: (2026)
von: Sun, Bochao, et al.
Veröffentlicht: (2026)
FuseMoE: Mixture-of-Experts Transformers for Fleximodal Fusion
von: Han, Xing, et al.
Veröffentlicht: (2024)
von: Han, Xing, et al.
Veröffentlicht: (2024)
LightMoE: Reducing Mixture-of-Experts Redundancy through Expert Replacing
von: Hao, Jiawei, et al.
Veröffentlicht: (2026)
von: Hao, Jiawei, et al.
Veröffentlicht: (2026)
MoVA: Adapting Mixture of Vision Experts to Multimodal Context
von: Zong, Zhuofan, et al.
Veröffentlicht: (2024)
von: Zong, Zhuofan, et al.
Veröffentlicht: (2024)
MoPE: A Mixture of Password Experts for Improving Password Guessing
von: Duan, Mingjian, et al.
Veröffentlicht: (2025)
von: Duan, Mingjian, et al.
Veröffentlicht: (2025)
Alloc-MoE: Budget-Aware Expert Activation Allocation for Efficient Mixture-of-Experts Inference
von: Liu, Baihui, et al.
Veröffentlicht: (2026)
von: Liu, Baihui, et al.
Veröffentlicht: (2026)
CBDES MoE: Hierarchically Decoupled Mixture-of-Experts for Functional Modules in Autonomous Driving
von: Xiang, Qi, et al.
Veröffentlicht: (2025)
von: Xiang, Qi, et al.
Veröffentlicht: (2025)
P2Object: Single Point Supervised Object Detection and Instance Segmentation
von: Chen, Pengfei, et al.
Veröffentlicht: (2025)
von: Chen, Pengfei, et al.
Veröffentlicht: (2025)
P2RBox: Point Prompt Oriented Object Detection with SAM
von: Cao, Guangming, et al.
Veröffentlicht: (2023)
von: Cao, Guangming, et al.
Veröffentlicht: (2023)
CPR++: Object Localization via Single Coarse Point Supervision
von: Yu, Xuehui, et al.
Veröffentlicht: (2024)
von: Yu, Xuehui, et al.
Veröffentlicht: (2024)
Rethinking Sampling Strategies for Unsupervised Person Re-identification
von: Han, Xumeng, et al.
Veröffentlicht: (2021)
von: Han, Xumeng, et al.
Veröffentlicht: (2021)
MoIIE: Mixture of Intra- and Inter-Modality Experts for Large Vision Language Models
von: Wang, Dianyi, et al.
Veröffentlicht: (2025)
von: Wang, Dianyi, et al.
Veröffentlicht: (2025)
Equipping Vision Foundation Model with Mixture of Experts for Out-of-Distribution Detection
von: Zhao, Shizhen, et al.
Veröffentlicht: (2025)
von: Zhao, Shizhen, et al.
Veröffentlicht: (2025)
RotMoLE: Enhancing Mixture of Low-Rank Experts through Rotational Gating Mechanism
von: Sun, Mengyang, et al.
Veröffentlicht: (2026)
von: Sun, Mengyang, et al.
Veröffentlicht: (2026)
CoMoVi: Co-Generation of 3D Human Motions and Realistic Videos
von: Zhao, Chengfeng, et al.
Veröffentlicht: (2026)
von: Zhao, Chengfeng, et al.
Veröffentlicht: (2026)
Mixture of Experts (MoE): A Big Data Perspective
von: Gan, Wensheng, et al.
Veröffentlicht: (2025)
von: Gan, Wensheng, et al.
Veröffentlicht: (2025)
MoE-nD: Per-Layer Mixture-of-Experts Routing for Multi-Axis KV Cache Compression
von: Sun, Libo, et al.
Veröffentlicht: (2026)
von: Sun, Libo, et al.
Veröffentlicht: (2026)
BuddyMoE: Exploiting Expert Redundancy to Accelerate Memory-Constrained Mixture-of-Experts Inference
von: Wang, Yun, et al.
Veröffentlicht: (2025)
von: Wang, Yun, et al.
Veröffentlicht: (2025)
I2MoE: Interpretable Multimodal Interaction-aware Mixture-of-Experts
von: Xin, Jiayi, et al.
Veröffentlicht: (2025)
von: Xin, Jiayi, et al.
Veröffentlicht: (2025)
MoME: Mixture of Visual Language Medical Experts for Medical Imaging Segmentation
von: Rezvani, Arghavan, et al.
Veröffentlicht: (2025)
von: Rezvani, Arghavan, et al.
Veröffentlicht: (2025)
MoRI: Mixture of RL and IL Experts for Long-Horizon Manipulation Tasks
von: Xu, Yaohang, et al.
Veröffentlicht: (2026)
von: Xu, Yaohang, et al.
Veröffentlicht: (2026)
MH-MoE: Multi-Head Mixture-of-Experts
von: Huang, Shaohan, et al.
Veröffentlicht: (2024)
von: Huang, Shaohan, et al.
Veröffentlicht: (2024)
Mixture of insighTful Experts (MoTE): The Synergy of Thought Chains and Expert Mixtures in Self-Alignment
von: Liu, Zhili, et al.
Veröffentlicht: (2024)
von: Liu, Zhili, et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
Mixpert: Mitigating Multimodal Learning Conflicts with Efficient Mixture-of-Vision-Experts
von: He, Xin, et al.
Veröffentlicht: (2025) -
Boosting Segment Anything Model Towards Open-Vocabulary Learning
von: Han, Xumeng, et al.
Veröffentlicht: (2023) -
GaGA: Towards Interactive Global Geolocation Assistant
von: Dou, Zhiyang, et al.
Veröffentlicht: (2024) -
VER-Bench: Evaluating MLLMs on Reasoning with Fine-Grained Visual Evidence
von: Qiang, Chenhui, et al.
Veröffentlicht: (2025) -
AD^2-Bench: A Hierarchical CoT Benchmark for MLLM in Autonomous Driving under Adverse Conditions
von: Wei, Zhaoyang, et al.
Veröffentlicht: (2025)