Buchumschlag

Mixture of LoRA Experts

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wu, Xun, Huang, Shaohan, Wei, Furu
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Machine Learning Multimedia
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Multi-Head Mixture-of-Experts
von: Wu, Xun, et al.
Veröffentlicht: (2024)

Multimodal Large Language Model is a Human-Aligned Annotator for Text-to-Image Generation
von: Wu, Xun, et al.
Veröffentlicht: (2024)

Towards Stable and Effective Reinforcement Learning for Mixture-of-Experts
von: Zhang, Di, et al.
Veröffentlicht: (2025)

Mixture-of-Prompt-Experts for Multi-modal Semantic Understanding
von: Wu, Zichen, et al.
Veröffentlicht: (2024)

Sci-LoRA: Mixture of Scientific LoRAs for Cross-Domain Lay Paraphrasing
von: Cheng, Ming, et al.
Veröffentlicht: (2025)

Contrastive Regularization over LoRA for Multimodal Biomedical Image Incremental Learning
von: Zhang, Haojie, et al.
Veröffentlicht: (2025)

MH-MoE: Multi-Head Mixture-of-Experts
von: Huang, Shaohan, et al.
Veröffentlicht: (2024)

Multi-level Mixture of Experts for Multimodal Entity Linking
von: Hu, Zhiwei, et al.
Veröffentlicht: (2025)

Textual Aesthetics in Large Language Models
von: Jiang, Lingjie, et al.
Veröffentlicht: (2024)

MoLEx: Mixture of LoRA Experts in Speech Self-Supervised Models for Audio Deepfake Detection
von: Pan, Zihan, et al.
Veröffentlicht: (2025)

Training Data Efficiency in Multimodal Process Reward Models
von: Li, Jinyuan, et al.
Veröffentlicht: (2026)

LoRA-drop: Efficient LoRA Parameter Pruning based on Output Evaluation
von: Zhou, Hongyun, et al.
Veröffentlicht: (2024)

LoRA-PAR: A Flexible Dual-System LoRA Partitioning Approach to Efficient LLM Fine-Tuning
von: Huang, Yining, et al.
Veröffentlicht: (2025)

AFA-LoRA: Enabling Non-Linear Adaptations in LoRA with Activation Function Annealing
von: Li, Jiacheng, et al.
Veröffentlicht: (2025)

ELDER: Enhancing Lifelong Model Editing with Mixture-of-LoRA
von: Li, Jiaang, et al.
Veröffentlicht: (2024)

Emotion Collider: Dual Hyperbolic Mirror Manifolds for Sentiment Recovery via Anti Emotion Reflection
von: Fu, Rong, et al.
Veröffentlicht: (2026)

ModalImmune: Immunity Driven Unlearning via Self Destructive Training
von: Fu, Rong, et al.
Veröffentlicht: (2026)

Dental-TriageBench: Benchmarking Multimodal Reasoning for Hierarchical Dental Triage
von: He, Ziyi, et al.
Veröffentlicht: (2026)

SLIM: Let LLM Learn More and Forget Less with Soft LoRA and Identity Mixture
von: Han, Jiayi, et al.
Veröffentlicht: (2024)

LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
von: Lee, Seungeon, et al.
Veröffentlicht: (2025)

MixLoRA-DSI: Dynamically Expandable Mixture-of-LoRA Experts for Rehearsal-Free Generative Retrieval over Dynamic Corpora
von: Huynh, Tuan-Luc, et al.
Veröffentlicht: (2025)

Text Slider: Efficient and Plug-and-Play Continuous Concept Control for Image/Video Synthesis via LoRA Adapters
von: Chiu, Pin-Yen, et al.
Veröffentlicht: (2025)

LoRA Soups: Merging LoRAs for Practical Skill Composition Tasks
von: Prabhakar, Akshara, et al.
Veröffentlicht: (2024)

On-Policy RL with Optimal Reward Baseline
von: Hao, Yaru, et al.
Veröffentlicht: (2025)

LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
von: Yen, Jui-Nan, et al.
Veröffentlicht: (2024)

ChemDFM-X: Towards Large Multimodal Model for Chemistry
von: Zhao, Zihan, et al.
Veröffentlicht: (2024)

MemeCLIP: Leveraging CLIP Representations for Multimodal Meme Classification
von: Shah, Siddhant Bikram, et al.
Veröffentlicht: (2024)

Where Do We Go from Here? Multi-scale Allocentric Relational Inference from Natural Spatial Descriptions
von: Paz-Argaman, Tzuf, et al.
Veröffentlicht: (2024)

Self-Comparison for Dataset-Level Membership Inference in Large (Vision-)Language Models
von: Ren, Jie, et al.
Veröffentlicht: (2024)

K-pop Lyric Translation: Dataset, Analysis, and Neural-Modelling
von: Kim, Haven, et al.
Veröffentlicht: (2023)

Multimodal Large Language Models for Medicine: A Comprehensive Survey
von: Ye, Jiarui, et al.
Veröffentlicht: (2025)

Proactive Conversational Assistant for a Procedural Manual Task based on Audio and IMU
von: Mahfuz, Rehana, et al.
Veröffentlicht: (2026)

KMMMU: Evaluation of Massive Multi-discipline Multimodal Understanding in Korean Language and Context
von: Lee, Nahyun, et al.
Veröffentlicht: (2026)

StreaMulT: Streaming Multimodal Transformer for Heterogeneous and Arbitrary Long Sequential Data
von: Pellegrain, Victor, et al.
Veröffentlicht: (2021)

A Note on LoRA
von: Fomenko, Vlad, et al.
Veröffentlicht: (2024)

KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
von: Azimi, Rambod, et al.
Veröffentlicht: (2024)

HyperAdaLoRA: Accelerating LoRA Rank Allocation During Training via Hypernetworks without Sacrificing Performance
von: Zhang, Hao, et al.
Veröffentlicht: (2025)

Improving LoRA with Variational Learning
von: Cong, Bai, et al.
Veröffentlicht: (2025)

BitNet Distillation
von: Wu, Xun, et al.
Veröffentlicht: (2025)

Multimodal Multi-loss Fusion Network for Sentiment Analysis
von: Wu, Zehui, et al.
Veröffentlicht: (2023)