Mixture of Cluster-conditional LoRA Experts for Vision-language Instruction Tuning
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Gou, Yunhao, Liu, Zhili, Chen, Kai, Hong, Lanqing, Xu, Hang, Li, Aoxue, Yeung, Dit-Yan, Kwok, James T., Zhang, Yu |
|---|---|
| Format: | Preprint |
| Publié: |
2023
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Task-customized Masked AutoEncoder via Mixture of Cluster-conditional Experts
par: Liu, Zhili, et autres
Publié: (2024)
par: Liu, Zhili, et autres
Publié: (2024)
Eyes Closed, Safety On: Protecting Multimodal LLMs via Image-to-Text Transformation
par: Gou, Yunhao, et autres
Publié: (2024)
par: Gou, Yunhao, et autres
Publié: (2024)
Dynamic Mixture of Curriculum LoRA Experts for Continual Multimodal Instruction Tuning
par: Ge, Chendi, et autres
Publié: (2025)
par: Ge, Chendi, et autres
Publié: (2025)
Mixture of insighTful Experts (MoTE): The Synergy of Thought Chains and Expert Mixtures in Self-Alignment
par: Liu, Zhili, et autres
Publié: (2024)
par: Liu, Zhili, et autres
Publié: (2024)
Multimodal Instruction Tuning with Conditional Mixture of LoRA
par: Shen, Ying, et autres
Publié: (2024)
par: Shen, Ying, et autres
Publié: (2024)
Mixed Autoencoder for Self-supervised Visual Representation Learning
par: Chen, Kai, et autres
Publié: (2023)
par: Chen, Kai, et autres
Publié: (2023)
DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models
par: Deng, Guanzhi, et autres
Publié: (2026)
par: Deng, Guanzhi, et autres
Publié: (2026)
Mixture of LoRA Experts
par: Wu, Xun, et autres
Publié: (2024)
par: Wu, Xun, et autres
Publié: (2024)
Implicit Concept Removal of Diffusion Models
par: Liu, Zhili, et autres
Publié: (2023)
par: Liu, Zhili, et autres
Publié: (2023)
TAS-LoRA: Transformer Architecture Search with Mixture-of-LoRA Experts
par: Jeon, Jeimin, et autres
Publié: (2026)
par: Jeon, Jeimin, et autres
Publié: (2026)
Corrupted but Not Broken: Understanding and Mitigating the Negative Impacts of Corrupted Data in Visual Instruction Tuning
par: Gou, Yunhao, et autres
Publié: (2025)
par: Gou, Yunhao, et autres
Publié: (2025)
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts
par: Li, Dengchun, et autres
Publié: (2024)
par: Li, Dengchun, et autres
Publié: (2024)
LoRA-Mixer: Coordinate Modular LoRA Experts Through Serial Attention Routing
par: Li, Wenbing, et autres
Publié: (2025)
par: Li, Wenbing, et autres
Publié: (2025)
Reasoning-Aligned Perception Decoupling for Scalable Multi-modal Reasoning
par: Gou, Yunhao, et autres
Publié: (2025)
par: Gou, Yunhao, et autres
Publié: (2025)
LoRA in LoRA: Towards Parameter-Efficient Architecture Expansion for Continual Visual Instruction Tuning
par: Che, Chang, et autres
Publié: (2025)
par: Che, Chang, et autres
Publié: (2025)
Make LoRA Great Again: Boosting LoRA with Adaptive Singular Values and Mixture-of-Experts Optimization Alignment
par: Fan, Chenghao, et autres
Publié: (2025)
par: Fan, Chenghao, et autres
Publié: (2025)
SHE-LoRA: Selective Homomorphic Encryption for Federated Tuning with Heterogeneous LoRA
par: Liu, Jianmin, et autres
Publié: (2025)
par: Liu, Jianmin, et autres
Publié: (2025)
Adaptive LoRA Experts Allocation and Selection for Federated Fine-Tuning
par: Wang, Lei, et autres
Publié: (2025)
par: Wang, Lei, et autres
Publié: (2025)
LoRA-FAIR: Federated LoRA Fine-Tuning with Aggregation and Initialization Refinement
par: Bian, Jieming, et autres
Publié: (2024)
par: Bian, Jieming, et autres
Publié: (2024)
SAML: Speaker Adaptive Mixture of LoRA Experts for End-to-End ASR
par: Zhao, Qiuming, et autres
Publié: (2024)
par: Zhao, Qiuming, et autres
Publié: (2024)
Vision as LoRA
par: Wang, Han, et autres
Publié: (2025)
par: Wang, Han, et autres
Publié: (2025)
A Novel Trustworthy Video Summarization Algorithm Through a Mixture of LoRA Experts
par: Du, Wenzhuo, et autres
Publié: (2025)
par: Du, Wenzhuo, et autres
Publié: (2025)
SAMoRA: Semantic-Aware Mixture of LoRA Experts for Task-Adaptive Learning
par: Shi, Boyan, et autres
Publié: (2026)
par: Shi, Boyan, et autres
Publié: (2026)
Retrieval-Augmented Mixture of LoRA Experts for Uploadable Machine Learning
par: Zhao, Ziyu, et autres
Publié: (2024)
par: Zhao, Ziyu, et autres
Publié: (2024)
TT-LoRA MoE: Unifying Parameter-Efficient Fine-Tuning and Sparse Mixture-of-Experts
par: Kunwar, Pradip, et autres
Publié: (2025)
par: Kunwar, Pradip, et autres
Publié: (2025)
LoRA-Squeeze: Simple and Effective Post-Tuning and In-Tuning Compression of LoRA Modules
par: Vulić, Ivan, et autres
Publié: (2026)
par: Vulić, Ivan, et autres
Publié: (2026)
Adaptive Shared Experts with LoRA-Based Mixture of Experts for Multi-Task Learning
par: Yang, Minghao, et autres
Publié: (2025)
par: Yang, Minghao, et autres
Publié: (2025)
MOLM: Mixture of LoRA Markers
par: Fares, Samar, et autres
Publié: (2025)
par: Fares, Samar, et autres
Publié: (2025)
Customize Segment Anything Model for Multi-Modal Semantic Segmentation with Mixture of LoRA Experts
par: Zhu, Chenyang, et autres
Publié: (2024)
par: Zhu, Chenyang, et autres
Publié: (2024)
ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
par: Zuo, Jingwei, et autres
Publié: (2026)
par: Zuo, Jingwei, et autres
Publié: (2026)
CE-LoRA: Computation-Efficient LoRA Fine-Tuning for Language Models
par: Chen, Guanduo, et autres
Publié: (2025)
par: Chen, Guanduo, et autres
Publié: (2025)
LD-MoLE: Learnable Dynamic Routing for Mixture of LoRA Experts
par: Zhuang, Yuan, et autres
Publié: (2025)
par: Zhuang, Yuan, et autres
Publié: (2025)
DynMoLE: Boosting Mixture of LoRA Experts Fine-Tuning with a Hybrid Routing Mechanism
par: Li, Dengchun, et autres
Publié: (2025)
par: Li, Dengchun, et autres
Publié: (2025)
HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
par: Tian, Chunlin, et autres
Publié: (2024)
par: Tian, Chunlin, et autres
Publié: (2024)
HDMoLE: Mixture of LoRA Experts with Hierarchical Routing and Dynamic Thresholds for Fine-Tuning LLM-based ASR Models
par: Mu, Bingshen, et autres
Publié: (2024)
par: Mu, Bingshen, et autres
Publié: (2024)
PLoRA: Efficient LoRA Hyperparameter Tuning for Large Models
par: Yan, Minghao, et autres
Publié: (2025)
par: Yan, Minghao, et autres
Publié: (2025)
LLaVA-MoLE: Sparse Mixture of LoRA Experts for Mitigating Data Conflicts in Instruction Finetuning MLLMs
par: Chen, Shaoxiang, et autres
Publié: (2024)
par: Chen, Shaoxiang, et autres
Publié: (2024)
TimeStep Master: Asymmetrical Mixture of Timestep LoRA Experts for Versatile and Efficient Diffusion Models in Vision
par: Zhuang, Shaobin, et autres
Publié: (2025)
par: Zhuang, Shaobin, et autres
Publié: (2025)
MLAE: Masked LoRA Experts for Visual Parameter-Efficient Fine-Tuning
par: Wang, Junjie, et autres
Publié: (2024)
par: Wang, Junjie, et autres
Publié: (2024)
Mixture of LoRA Experts for Low-Resourced Multi-Accent Automatic Speech Recognition
par: Bagat, Raphaël, et autres
Publié: (2025)
par: Bagat, Raphaël, et autres
Publié: (2025)
Documents similaires
-
Task-customized Masked AutoEncoder via Mixture of Cluster-conditional Experts
par: Liu, Zhili, et autres
Publié: (2024) -
Eyes Closed, Safety On: Protecting Multimodal LLMs via Image-to-Text Transformation
par: Gou, Yunhao, et autres
Publié: (2024) -
Dynamic Mixture of Curriculum LoRA Experts for Continual Multimodal Instruction Tuning
par: Ge, Chendi, et autres
Publié: (2025) -
Mixture of insighTful Experts (MoTE): The Synergy of Thought Chains and Expert Mixtures in Self-Alignment
par: Liu, Zhili, et autres
Publié: (2024) -
Multimodal Instruction Tuning with Conditional Mixture of LoRA
par: Shen, Ying, et autres
Publié: (2024)