ViMoE: An Empirical Study of Designing Vision Mixture-of-Experts
Fuente:
arXiv
Salvato in:
| Autori principali: | Han, Xumeng, Wei, Longhui, Dou, Zhiyang, Wang, Zipeng, Qiang, Chenhui, He, Xin, Sun, Yingfei, Han, Zhenjun, Tian, Qi |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Mixpert: Mitigating Multimodal Learning Conflicts with Efficient Mixture-of-Vision-Experts
di: He, Xin, et al.
Pubblicazione: (2025)
di: He, Xin, et al.
Pubblicazione: (2025)
Boosting Segment Anything Model Towards Open-Vocabulary Learning
di: Han, Xumeng, et al.
Pubblicazione: (2023)
di: Han, Xumeng, et al.
Pubblicazione: (2023)
GaGA: Towards Interactive Global Geolocation Assistant
di: Dou, Zhiyang, et al.
Pubblicazione: (2024)
di: Dou, Zhiyang, et al.
Pubblicazione: (2024)
VER-Bench: Evaluating MLLMs on Reasoning with Fine-Grained Visual Evidence
di: Qiang, Chenhui, et al.
Pubblicazione: (2025)
di: Qiang, Chenhui, et al.
Pubblicazione: (2025)
AD^2-Bench: A Hierarchical CoT Benchmark for MLLM in Autonomous Driving under Adverse Conditions
di: Wei, Zhaoyang, et al.
Pubblicazione: (2025)
di: Wei, Zhaoyang, et al.
Pubblicazione: (2025)
P2Seg: Pointly-supervised Segmentation via Mutual Distillation
di: Wang, Zipeng, et al.
Pubblicazione: (2024)
di: Wang, Zipeng, et al.
Pubblicazione: (2024)
Incorporating Visual Experts to Resolve the Information Loss in Multimodal Large Language Models
di: He, Xin, et al.
Pubblicazione: (2024)
di: He, Xin, et al.
Pubblicazione: (2024)
HeroGS: Hierarchical Guidance for Robust 3D Gaussian Splatting under Sparse Views
di: Li, Jiashu, et al.
Pubblicazione: (2026)
di: Li, Jiashu, et al.
Pubblicazione: (2026)
Routers in Vision Mixture of Experts: An Empirical Study
di: Liu, Tianlin, et al.
Pubblicazione: (2024)
di: Liu, Tianlin, et al.
Pubblicazione: (2024)
MoDEM: Mixture of Domain Expert Models
di: Simonds, Toby, et al.
Pubblicazione: (2024)
di: Simonds, Toby, et al.
Pubblicazione: (2024)
SAPNet++: Evolving Point-Prompted Instance Segmentation with Semantic and Spatial Awareness
di: Wei, Zhaoyang, et al.
Pubblicazione: (2026)
di: Wei, Zhaoyang, et al.
Pubblicazione: (2026)
SAM-CP: Marrying SAM with Composable Prompts for Versatile Segmentation
di: Chen, Pengfei, et al.
Pubblicazione: (2024)
di: Chen, Pengfei, et al.
Pubblicazione: (2024)
MoBiLE: Efficient Mixture-of-Experts Inference on Consumer GPU with Mixture of Big Little Experts
di: Zhao, Yushu, et al.
Pubblicazione: (2025)
di: Zhao, Yushu, et al.
Pubblicazione: (2025)
SEER-MoE: Sparse Expert Efficiency through Regularization for Mixture-of-Experts
di: Muzio, Alexandre, et al.
Pubblicazione: (2024)
di: Muzio, Alexandre, et al.
Pubblicazione: (2024)
MoEMeta: Mixture-of-Experts Meta Learning for Few-Shot Relational Learning
di: Wu, Han, et al.
Pubblicazione: (2025)
di: Wu, Han, et al.
Pubblicazione: (2025)
MoLAE: Mixture of Latent Experts for Parameter-Efficient Language Models
di: Liu, Zehua, et al.
Pubblicazione: (2025)
di: Liu, Zehua, et al.
Pubblicazione: (2025)
Sub-MoE: Efficient Mixture-of-Expert LLMs Compression via Subspace Expert Merging
di: Li, Lujun, et al.
Pubblicazione: (2025)
di: Li, Lujun, et al.
Pubblicazione: (2025)
MoEScore: Mixture-of-Experts-Based Text-Audio Relevance Score Prediction for Text-to-Audio System Evaluation
di: Sun, Bochao, et al.
Pubblicazione: (2026)
di: Sun, Bochao, et al.
Pubblicazione: (2026)
FuseMoE: Mixture-of-Experts Transformers for Fleximodal Fusion
di: Han, Xing, et al.
Pubblicazione: (2024)
di: Han, Xing, et al.
Pubblicazione: (2024)
LightMoE: Reducing Mixture-of-Experts Redundancy through Expert Replacing
di: Hao, Jiawei, et al.
Pubblicazione: (2026)
di: Hao, Jiawei, et al.
Pubblicazione: (2026)
MoVA: Adapting Mixture of Vision Experts to Multimodal Context
di: Zong, Zhuofan, et al.
Pubblicazione: (2024)
di: Zong, Zhuofan, et al.
Pubblicazione: (2024)
MoPE: A Mixture of Password Experts for Improving Password Guessing
di: Duan, Mingjian, et al.
Pubblicazione: (2025)
di: Duan, Mingjian, et al.
Pubblicazione: (2025)
Alloc-MoE: Budget-Aware Expert Activation Allocation for Efficient Mixture-of-Experts Inference
di: Liu, Baihui, et al.
Pubblicazione: (2026)
di: Liu, Baihui, et al.
Pubblicazione: (2026)
CBDES MoE: Hierarchically Decoupled Mixture-of-Experts for Functional Modules in Autonomous Driving
di: Xiang, Qi, et al.
Pubblicazione: (2025)
di: Xiang, Qi, et al.
Pubblicazione: (2025)
P2Object: Single Point Supervised Object Detection and Instance Segmentation
di: Chen, Pengfei, et al.
Pubblicazione: (2025)
di: Chen, Pengfei, et al.
Pubblicazione: (2025)
P2RBox: Point Prompt Oriented Object Detection with SAM
di: Cao, Guangming, et al.
Pubblicazione: (2023)
di: Cao, Guangming, et al.
Pubblicazione: (2023)
CPR++: Object Localization via Single Coarse Point Supervision
di: Yu, Xuehui, et al.
Pubblicazione: (2024)
di: Yu, Xuehui, et al.
Pubblicazione: (2024)
Rethinking Sampling Strategies for Unsupervised Person Re-identification
di: Han, Xumeng, et al.
Pubblicazione: (2021)
di: Han, Xumeng, et al.
Pubblicazione: (2021)
MoIIE: Mixture of Intra- and Inter-Modality Experts for Large Vision Language Models
di: Wang, Dianyi, et al.
Pubblicazione: (2025)
di: Wang, Dianyi, et al.
Pubblicazione: (2025)
Equipping Vision Foundation Model with Mixture of Experts for Out-of-Distribution Detection
di: Zhao, Shizhen, et al.
Pubblicazione: (2025)
di: Zhao, Shizhen, et al.
Pubblicazione: (2025)
RotMoLE: Enhancing Mixture of Low-Rank Experts through Rotational Gating Mechanism
di: Sun, Mengyang, et al.
Pubblicazione: (2026)
di: Sun, Mengyang, et al.
Pubblicazione: (2026)
CoMoVi: Co-Generation of 3D Human Motions and Realistic Videos
di: Zhao, Chengfeng, et al.
Pubblicazione: (2026)
di: Zhao, Chengfeng, et al.
Pubblicazione: (2026)
Mixture of Experts (MoE): A Big Data Perspective
di: Gan, Wensheng, et al.
Pubblicazione: (2025)
di: Gan, Wensheng, et al.
Pubblicazione: (2025)
MoE-nD: Per-Layer Mixture-of-Experts Routing for Multi-Axis KV Cache Compression
di: Sun, Libo, et al.
Pubblicazione: (2026)
di: Sun, Libo, et al.
Pubblicazione: (2026)
BuddyMoE: Exploiting Expert Redundancy to Accelerate Memory-Constrained Mixture-of-Experts Inference
di: Wang, Yun, et al.
Pubblicazione: (2025)
di: Wang, Yun, et al.
Pubblicazione: (2025)
I2MoE: Interpretable Multimodal Interaction-aware Mixture-of-Experts
di: Xin, Jiayi, et al.
Pubblicazione: (2025)
di: Xin, Jiayi, et al.
Pubblicazione: (2025)
MoME: Mixture of Visual Language Medical Experts for Medical Imaging Segmentation
di: Rezvani, Arghavan, et al.
Pubblicazione: (2025)
di: Rezvani, Arghavan, et al.
Pubblicazione: (2025)
MoRI: Mixture of RL and IL Experts for Long-Horizon Manipulation Tasks
di: Xu, Yaohang, et al.
Pubblicazione: (2026)
di: Xu, Yaohang, et al.
Pubblicazione: (2026)
MH-MoE: Multi-Head Mixture-of-Experts
di: Huang, Shaohan, et al.
Pubblicazione: (2024)
di: Huang, Shaohan, et al.
Pubblicazione: (2024)
Mixture of insighTful Experts (MoTE): The Synergy of Thought Chains and Expert Mixtures in Self-Alignment
di: Liu, Zhili, et al.
Pubblicazione: (2024)
di: Liu, Zhili, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Mixpert: Mitigating Multimodal Learning Conflicts with Efficient Mixture-of-Vision-Experts
di: He, Xin, et al.
Pubblicazione: (2025) -
Boosting Segment Anything Model Towards Open-Vocabulary Learning
di: Han, Xumeng, et al.
Pubblicazione: (2023) -
GaGA: Towards Interactive Global Geolocation Assistant
di: Dou, Zhiyang, et al.
Pubblicazione: (2024) -
VER-Bench: Evaluating MLLMs on Reasoning with Fine-Grained Visual Evidence
di: Qiang, Chenhui, et al.
Pubblicazione: (2025) -
AD^2-Bench: A Hierarchical CoT Benchmark for MLLM in Autonomous Driving under Adverse Conditions
di: Wei, Zhaoyang, et al.
Pubblicazione: (2025)