MaLoRA: Gated Modality LoRA for Key-Space Alignment in Multimodal LLM Fine-Tuning
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Zheng, Xinhan, Wu, Huyu, Wang, Xueting, Su, Duo, Jiang, Haiyun |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Mixture of LoRA Experts
von: Wu, Xun, et al.
Veröffentlicht: (2024)
von: Wu, Xun, et al.
Veröffentlicht: (2024)
Contrastive Regularization over LoRA for Multimodal Biomedical Image Incremental Learning
von: Zhang, Haojie, et al.
Veröffentlicht: (2025)
von: Zhang, Haojie, et al.
Veröffentlicht: (2025)
MoLEx: Mixture of LoRA Experts in Speech Self-Supervised Models for Audio Deepfake Detection
von: Pan, Zihan, et al.
Veröffentlicht: (2025)
von: Pan, Zihan, et al.
Veröffentlicht: (2025)
LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
von: Zhu, Zhanda, et al.
Veröffentlicht: (2025)
von: Zhu, Zhanda, et al.
Veröffentlicht: (2025)
HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
von: Tian, Chunlin, et al.
Veröffentlicht: (2024)
von: Tian, Chunlin, et al.
Veröffentlicht: (2024)
DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models
von: Deng, Guanzhi, et al.
Veröffentlicht: (2026)
von: Deng, Guanzhi, et al.
Veröffentlicht: (2026)
KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
von: Azimi, Rambod, et al.
Veröffentlicht: (2024)
von: Azimi, Rambod, et al.
Veröffentlicht: (2024)
LoRA-Squeeze: Simple and Effective Post-Tuning and In-Tuning Compression of LoRA Modules
von: Vulić, Ivan, et al.
Veröffentlicht: (2026)
von: Vulić, Ivan, et al.
Veröffentlicht: (2026)
Text Slider: Efficient and Plug-and-Play Continuous Concept Control for Image/Video Synthesis via LoRA Adapters
von: Chiu, Pin-Yen, et al.
Veröffentlicht: (2025)
von: Chiu, Pin-Yen, et al.
Veröffentlicht: (2025)
FinLoRA: Benchmarking LoRA Methods for Fine-Tuning LLMs on Financial Datasets
von: Wang, Dannong, et al.
Veröffentlicht: (2025)
von: Wang, Dannong, et al.
Veröffentlicht: (2025)
Rethinking the Rank Threshold for LoRA Fine-Tuning
von: Park, Juneyoung
Veröffentlicht: (2026)
von: Park, Juneyoung
Veröffentlicht: (2026)
S-LoRA: Serving Thousands of Concurrent LoRA Adapters
von: Sheng, Ying, et al.
Veröffentlicht: (2023)
von: Sheng, Ying, et al.
Veröffentlicht: (2023)
When Language Overrules: Revealing Text Dominance in Multimodal Large Language Models
von: Wu, Huyu, et al.
Veröffentlicht: (2025)
von: Wu, Huyu, et al.
Veröffentlicht: (2025)
Bayesian-LoRA: LoRA based Parameter Efficient Fine-Tuning using Optimal Quantization levels and Rank Values trough Differentiable Bayesian Gates
von: Meo, Cristian, et al.
Veröffentlicht: (2024)
von: Meo, Cristian, et al.
Veröffentlicht: (2024)
ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
von: Zuo, Jingwei, et al.
Veröffentlicht: (2026)
von: Zuo, Jingwei, et al.
Veröffentlicht: (2026)
FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning
von: Bian, Jieming, et al.
Veröffentlicht: (2026)
von: Bian, Jieming, et al.
Veröffentlicht: (2026)
RA-BLIP: Multimodal Adaptive Retrieval-Augmented Bootstrapping Language-Image Pre-training
von: Ding, Muhe, et al.
Veröffentlicht: (2024)
von: Ding, Muhe, et al.
Veröffentlicht: (2024)
Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
von: Shen, Yixin
Veröffentlicht: (2025)
von: Shen, Yixin
Veröffentlicht: (2025)
HypeLoRA: Hyper-Network-Generated LoRA Adapters for Calibrated Language Model Fine-Tuning
von: Trojan, Bartosz, et al.
Veröffentlicht: (2026)
von: Trojan, Bartosz, et al.
Veröffentlicht: (2026)
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts
von: Li, Dengchun, et al.
Veröffentlicht: (2024)
von: Li, Dengchun, et al.
Veröffentlicht: (2024)
LoRA in LoRA: Towards Parameter-Efficient Architecture Expansion for Continual Visual Instruction Tuning
von: Che, Chang, et al.
Veröffentlicht: (2025)
von: Che, Chang, et al.
Veröffentlicht: (2025)
LoRA-Leak: Membership Inference Attacks Against LoRA Fine-tuned Language Models
von: Ran, Delong, et al.
Veröffentlicht: (2025)
von: Ran, Delong, et al.
Veröffentlicht: (2025)
LoRA as Oracle
von: Arazzi, Marco, et al.
Veröffentlicht: (2026)
von: Arazzi, Marco, et al.
Veröffentlicht: (2026)
NaRA: Noise-Aware LoRA for Parameter-Efficient Fine-Tuning of Diffusion LLMs
von: Wang, Shuaidi, et al.
Veröffentlicht: (2026)
von: Wang, Shuaidi, et al.
Veröffentlicht: (2026)
R-LoRA: Randomized Multi-Head LoRA for Efficient Multi-Task Learning
von: Liu, Jinda, et al.
Veröffentlicht: (2025)
von: Liu, Jinda, et al.
Veröffentlicht: (2025)
Time-RA: Towards Time Series Reasoning for Anomaly Diagnosis with LLM Feedback
von: Yang, Yiyuan, et al.
Veröffentlicht: (2025)
von: Yang, Yiyuan, et al.
Veröffentlicht: (2025)
mLoRA: Fine-Tuning LoRA Adapters via Highly-Efficient Pipeline Parallelism in Multiple GPUs
von: Ye, Zhengmao, et al.
Veröffentlicht: (2023)
von: Ye, Zhengmao, et al.
Veröffentlicht: (2023)
SC-LoRA: Balancing Efficient Fine-tuning and Knowledge Preservation via Subspace-Constrained LoRA
von: Luo, Minrui, et al.
Veröffentlicht: (2025)
von: Luo, Minrui, et al.
Veröffentlicht: (2025)
LoRA-FAIR: Federated LoRA Fine-Tuning with Aggregation and Initialization Refinement
von: Bian, Jieming, et al.
Veröffentlicht: (2024)
von: Bian, Jieming, et al.
Veröffentlicht: (2024)
CE-LoRA: Computation-Efficient LoRA Fine-Tuning for Language Models
von: Chen, Guanduo, et al.
Veröffentlicht: (2025)
von: Chen, Guanduo, et al.
Veröffentlicht: (2025)
Parameter-Efficient Fine-Tuning for HAR: Integrating LoRA and QLoRA into Transformer Models
von: Seregina, Irina, et al.
Veröffentlicht: (2025)
von: Seregina, Irina, et al.
Veröffentlicht: (2025)
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
von: Lee, Seungeon, et al.
Veröffentlicht: (2025)
von: Lee, Seungeon, et al.
Veröffentlicht: (2025)
FedMomentum: Preserving LoRA Training Momentum in Federated Fine-Tuning
von: Yan, Peishen, et al.
Veröffentlicht: (2026)
von: Yan, Peishen, et al.
Veröffentlicht: (2026)
HeLo: Heterogeneous Multi-Modal Fusion with Label Correlation for Emotion Distribution Learning
von: Zheng, Chuhang, et al.
Veröffentlicht: (2025)
von: Zheng, Chuhang, et al.
Veröffentlicht: (2025)
LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
von: Yen, Jui-Nan, et al.
Veröffentlicht: (2024)
von: Yen, Jui-Nan, et al.
Veröffentlicht: (2024)
HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization
von: Su, Yang, et al.
Veröffentlicht: (2024)
von: Su, Yang, et al.
Veröffentlicht: (2024)
Origin Tracer: A Method for Detecting LoRA Fine-Tuning Origins in LLMs
von: Liang, Hongyu, et al.
Veröffentlicht: (2025)
von: Liang, Hongyu, et al.
Veröffentlicht: (2025)
Block-wise LoRA: Revisiting Fine-grained LoRA for Effective Personalization and Stylization in Text-to-Image Generation
von: Li, Likun, et al.
Veröffentlicht: (2024)
von: Li, Likun, et al.
Veröffentlicht: (2024)
Computational Limits of Low-Rank Adaptation (LoRA) Fine-Tuning for Transformer Models
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)
LoRA-Gen: Specializing Large Language Model via Online LoRA Generation
von: Xiao, Yicheng, et al.
Veröffentlicht: (2025)
von: Xiao, Yicheng, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
Mixture of LoRA Experts
von: Wu, Xun, et al.
Veröffentlicht: (2024) -
Contrastive Regularization over LoRA for Multimodal Biomedical Image Incremental Learning
von: Zhang, Haojie, et al.
Veröffentlicht: (2025) -
MoLEx: Mixture of LoRA Experts in Speech Self-Supervised Models for Audio Deepfake Detection
von: Pan, Zihan, et al.
Veröffentlicht: (2025) -
LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
von: Zhu, Zhanda, et al.
Veröffentlicht: (2025) -
HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
von: Tian, Chunlin, et al.
Veröffentlicht: (2024)