Buchumschlag

OptMerge: Unifying Multimodal LLM Capabilities and Modalities via Model Merging

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wei, Yongxian, Cheng, Runxi, Jin, Weike, Yang, Enneng, Shen, Li, Hou, Lu, Du, Sinan, Yuan, Chun, Cao, Xiaochun, Tao, Dacheng
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Whoever Started the Interference Should End It: Guiding Data-Free Model Merging via Task Vectors
von: Cheng, Runxi, et al.
Veröffentlicht: (2025)

Model Merging in LLMs, MLLMs, and Beyond: Methods, Theories, Applications and Opportunities
von: Yang, Enneng, et al.
Veröffentlicht: (2024)

Modeling Multi-Task Model Merging as Adaptive Projective Gradient Descent
von: Wei, Yongxian, et al.
Veröffentlicht: (2025)

Merging Models on the Fly Without Retraining: A Sequential Approach to Scalable Continual Model Merging
von: Tang, Anke, et al.
Veröffentlicht: (2025)

Efficient and Effective Weight-Ensembling Mixture of Experts for Multi-Task Model Merging
von: Shen, Li, et al.
Veröffentlicht: (2024)

AdaMerging: Adaptive Model Merging for Multi-Task Learning
von: Yang, Enneng, et al.
Veröffentlicht: (2023)

Representation Surgery for Multi-Task Model Merging
von: Yang, Enneng, et al.
Veröffentlicht: (2024)

SurgeryV2: Bridging the Gap Between Model Merging and Multi-Task Learning with Deep Representation Surgery
von: Yang, Enneng, et al.
Veröffentlicht: (2024)

Multi-Task Model Merging via Adaptive Weight Disentanglement
von: Xiong, Feng, et al.
Veröffentlicht: (2024)

Split to Merge: Unifying Separated Modalities for Unsupervised Domain Adaptation
von: Li, Xinyao, et al.
Veröffentlicht: (2024)

Learning to Pose Problems: Reasoning-Driven and Solver-Adaptive Data Synthesis
von: Wei, Yongxian, et al.
Veröffentlicht: (2025)

Unlocking Tuning-Free Few-Shot Adaptability in Visual Foundation Models by Recycling Pre-Tuned LoRAs
von: Hu, Zixuan, et al.
Veröffentlicht: (2024)

Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory
von: Cheng, Runxi, et al.
Veröffentlicht: (2026)

MMGRid: Navigating Temporal-aware and Cross-domain Generative Recommendation via Model Merging
von: Wei, Tianjun, et al.
Veröffentlicht: (2026)

MergeTok: Unified Continuous and Discrete Visual Tokenization via Token Merging
von: Zhang, Luyuan, et al.
Veröffentlicht: (2026)

FREE: Faster and Better Data-Free Meta-Learning
von: Wei, Yongxian, et al.
Veröffentlicht: (2024)

MergeMix: A Unified Augmentation Paradigm for Visual and Multi-Modal Understanding
von: Jin, Xin, et al.
Veröffentlicht: (2025)

Merging Multi-Task Models via Weight-Ensembling Mixture of Experts
von: Tang, Anke, et al.
Veröffentlicht: (2024)

HydraOpt: Navigating the Efficiency-Performance Trade-off of Adapter Merging
von: Ceritli, Taha, et al.
Veröffentlicht: (2025)

FusionBench: A Unified Library and Comprehensive Benchmark for Deep Model Fusion
von: Tang, Anke, et al.
Veröffentlicht: (2024)

MergeVQ: A Unified Framework for Visual Generation and Representation with Disentangled Token Merging and Quantization
von: Li, Siyuan, et al.
Veröffentlicht: (2025)

OptGM: An Optimized Gate Merging Method to Mitigate NBTI in Digital Circuits
von: Hajisadeghi, Amir M., et al.
Veröffentlicht: (2025)

Task Groupings Regularization: Data-Free Meta-Learning with Heterogeneous Pre-trained Models
von: Wei, Yongxian, et al.
Veröffentlicht: (2024)

Task-Distributionally Robust Data-Free Meta-Learning
von: Hu, Zixuan, et al.
Veröffentlicht: (2023)

Sparse Model Inversion: Efficient Inversion of Vision Transformers for Data-Free Applications
von: Hu, Zixuan, et al.
Veröffentlicht: (2025)

Twin-Merging: Dynamic Integration of Modular Expertise in Model Merging
von: Lu, Zhenyi, et al.
Veröffentlicht: (2024)

Mixture of Neuron Experts
von: Cheng, Runxi, et al.
Veröffentlicht: (2025)

Optimal Brain Iterative Merging: Mitigating Interference in LLM Merging
von: Wang, Zhixiang, et al.
Veröffentlicht: (2025)

Towards Efficient Multimodal Unified Reasoning Model via Model Merging
von: Yin, Qixiang, et al.
Veröffentlicht: (2025)

Merge to Mix: Mixing Datasets via Model Merging
von: Tao, Zhixu Silvia, et al.
Veröffentlicht: (2025)

Adaptive Defense against Harmful Fine-Tuning for Large Language Models via Bayesian Data Scheduler
von: Hu, Zixuan, et al.
Veröffentlicht: (2025)

Learn To Learn More Precisely
von: Cheng, Runxi, et al.
Veröffentlicht: (2024)

Multimodal Lego: Model Merging and Fine-Tuning Across Topologies and Modalities in Biomedicine
von: Hemker, Konstantin, et al.
Veröffentlicht: (2024)

Merge then Realign: Simple and Effective Modality-Incremental Continual Learning for Multimodal LLMs
von: Zhang, Dingkun, et al.
Veröffentlicht: (2025)

MIN-Merging: Merge the Important Neurons for Model Merging
von: Liang, Yunfei
Veröffentlicht: (2025)

Merge and Guide: Unifying Model Merging and Guided Decoding for Controllable Multi-Objective Generation
von: Xie, Guofu, et al.
Veröffentlicht: (2025)

LoRE-Merging: Exploring Low-Rank Estimation For Large Language Model Merging
von: Liu, Zehua, et al.
Veröffentlicht: (2025)

BadMerging: Backdoor Attacks Against Model Merging
von: Zhang, Jinghuai, et al.
Veröffentlicht: (2024)

Merge-of-Thought Distillation
von: Shen, Zhanming, et al.
Veröffentlicht: (2025)

EMR-Merging: Tuning-Free High-Performance Model Merging
von: Huang, Chenyu, et al.
Veröffentlicht: (2024)