Merging Smarter, Generalizing Better: Enhancing Model Merging on OOD Data
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Zhang, Bingjie, Li, Hongkang, Shi, Changlong, Rong, Guowei, Zhao, He, Wang, Dongsheng, Guo, Dandan, Wang, Meng |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
MergeMix: Optimizing Mid-Training Data Mixtures via Learnable Model Merging
von: Wang, Jiapeng, et al.
Veröffentlicht: (2026)
von: Wang, Jiapeng, et al.
Veröffentlicht: (2026)
MIN-Merging: Merge the Important Neurons for Model Merging
von: Liang, Yunfei
Veröffentlicht: (2025)
von: Liang, Yunfei
Veröffentlicht: (2025)
PSO-Merging: Merging Models Based on Particle Swarm Optimization
von: Zhang, Kehao, et al.
Veröffentlicht: (2025)
von: Zhang, Kehao, et al.
Veröffentlicht: (2025)
Model Merging for Knowledge Editing
von: Fu, Zichuan, et al.
Veröffentlicht: (2025)
von: Fu, Zichuan, et al.
Veröffentlicht: (2025)
Mix Data or Merge Models? Balancing the Helpfulness, Honesty, and Harmlessness of Large Language Model via Model Merging
von: Yang, Jinluan, et al.
Veröffentlicht: (2025)
von: Yang, Jinluan, et al.
Veröffentlicht: (2025)
MergeDNA: Context-aware Genome Modeling with Dynamic Tokenization through Token Merging
von: Li, Siyuan, et al.
Veröffentlicht: (2025)
von: Li, Siyuan, et al.
Veröffentlicht: (2025)
MergeIT: From Selection to Merging for Efficient Instruction Tuning
von: Cai, Hongyi, et al.
Veröffentlicht: (2025)
von: Cai, Hongyi, et al.
Veröffentlicht: (2025)
Multi-Level Collaboration in Model Merging
von: Li, Qi, et al.
Veröffentlicht: (2025)
von: Li, Qi, et al.
Veröffentlicht: (2025)
FW-Merging: Scaling Model Merging with Frank-Wolfe Optimization
von: Chen, Hao Mark, et al.
Veröffentlicht: (2025)
von: Chen, Hao Mark, et al.
Veröffentlicht: (2025)
CABS: Conflict-Aware and Balanced Sparsification for Enhancing Model Merging
von: Yang, Zongzhen, et al.
Veröffentlicht: (2025)
von: Yang, Zongzhen, et al.
Veröffentlicht: (2025)
Bayesian Model Merging
von: Li, Kaiyang, et al.
Veröffentlicht: (2026)
von: Li, Kaiyang, et al.
Veröffentlicht: (2026)
Cyborg Data: Merging Human with AI Generated Training Data
von: North, Kai, et al.
Veröffentlicht: (2025)
von: North, Kai, et al.
Veröffentlicht: (2025)
Decom-Renorm-Merge: Model Merging on the Right Space Improves Multitasking
von: Chaichana, Yuatyong, et al.
Veröffentlicht: (2025)
von: Chaichana, Yuatyong, et al.
Veröffentlicht: (2025)
Sparsity-Aware Evolution for Model Merging
von: Zhang, Huan, et al.
Veröffentlicht: (2026)
von: Zhang, Huan, et al.
Veröffentlicht: (2026)
Merge to Mix: Mixing Datasets via Model Merging
von: Tao, Zhixu Silvia, et al.
Veröffentlicht: (2025)
von: Tao, Zhixu Silvia, et al.
Veröffentlicht: (2025)
FeatCal: Feature Calibration for Post-Merging Models
von: Gu, Yanggan, et al.
Veröffentlicht: (2026)
von: Gu, Yanggan, et al.
Veröffentlicht: (2026)
Superpose Task-specific Features for Model Merging
von: Qiu, Haiquan, et al.
Veröffentlicht: (2025)
von: Qiu, Haiquan, et al.
Veröffentlicht: (2025)
CAT Merging: A Training-Free Approach for Resolving Conflicts in Model Merging
von: Sun, Wenju, et al.
Veröffentlicht: (2025)
von: Sun, Wenju, et al.
Veröffentlicht: (2025)
Channel Merging: Preserving Specialization for Merged Experts
von: Zhang, Mingyang, et al.
Veröffentlicht: (2024)
von: Zhang, Mingyang, et al.
Veröffentlicht: (2024)
Optimal Brain Iterative Merging: Mitigating Interference in LLM Merging
von: Wang, Zhixiang, et al.
Veröffentlicht: (2025)
von: Wang, Zhixiang, et al.
Veröffentlicht: (2025)
Model Merging: Foundations and Algorithms
von: Crisostomi, Donato
Veröffentlicht: (2026)
von: Crisostomi, Donato
Veröffentlicht: (2026)
Model Merging in the Essential Subspace
von: Li, Longhua, et al.
Veröffentlicht: (2026)
von: Li, Longhua, et al.
Veröffentlicht: (2026)
Twin-Merging: Dynamic Integration of Modular Expertise in Model Merging
von: Lu, Zhenyi, et al.
Veröffentlicht: (2024)
von: Lu, Zhenyi, et al.
Veröffentlicht: (2024)
Hierarchical Context Merging: Better Long Context Understanding for Pre-trained LLMs
von: Song, Woomin, et al.
Veröffentlicht: (2024)
von: Song, Woomin, et al.
Veröffentlicht: (2024)
A Hybrid Framework for Spatial Interpolation: Merging Data-driven with Domain Knowledge
von: Zhang, Cong, et al.
Veröffentlicht: (2024)
von: Zhang, Cong, et al.
Veröffentlicht: (2024)
BD-Merging: Bias-Aware Dynamic Model Merging with Evidence-Guided Contrastive Learning
von: Xie, Yuhan, et al.
Veröffentlicht: (2026)
von: Xie, Yuhan, et al.
Veröffentlicht: (2026)
NegMerge: Sign-Consensual Weight Merging for Machine Unlearning
von: Kim, Hyo Seo, et al.
Veröffentlicht: (2024)
von: Kim, Hyo Seo, et al.
Veröffentlicht: (2024)
ToMA: Token Merge with Attention for Diffusion Models
von: Lu, Wenbo, et al.
Veröffentlicht: (2025)
von: Lu, Wenbo, et al.
Veröffentlicht: (2025)
Representation Surgery for Multi-Task Model Merging
von: Yang, Enneng, et al.
Veröffentlicht: (2024)
von: Yang, Enneng, et al.
Veröffentlicht: (2024)
Fine, I'll Merge It Myself: A Multi-Fidelity Framework for Automated Model Merging
von: Su, Guinan, et al.
Veröffentlicht: (2025)
von: Su, Guinan, et al.
Veröffentlicht: (2025)
Arcee's MergeKit: A Toolkit for Merging Large Language Models
von: Goddard, Charles, et al.
Veröffentlicht: (2024)
von: Goddard, Charles, et al.
Veröffentlicht: (2024)
SimMerge: Learning to Select Merge Operators from Similarity Signals
von: Bolton, Oliver, et al.
Veröffentlicht: (2026)
von: Bolton, Oliver, et al.
Veröffentlicht: (2026)
ES-Merging: Biological MLLM Merging via Embedding Space Signals
von: Lee, Wonbin, et al.
Veröffentlicht: (2026)
von: Lee, Wonbin, et al.
Veröffentlicht: (2026)
ATM: Improving Model Merging by Alternating Tuning and Merging
von: Zhou, Luca, et al.
Veröffentlicht: (2024)
von: Zhou, Luca, et al.
Veröffentlicht: (2024)
Training-free Heterogeneous Model Merging
von: Xu, Zhengqi, et al.
Veröffentlicht: (2024)
von: Xu, Zhengqi, et al.
Veröffentlicht: (2024)
Revisiting Weight Averaging for Model Merging
von: Choi, Jiho, et al.
Veröffentlicht: (2024)
von: Choi, Jiho, et al.
Veröffentlicht: (2024)
K-Merge: Online Continual Merging of Adapters for On-device Large Language Models
von: Shenaj, Donald, et al.
Veröffentlicht: (2025)
von: Shenaj, Donald, et al.
Veröffentlicht: (2025)
PuzzleMoE: Efficient Compression of Large Mixture-of-Experts Models via Sparse Expert Merging and Bit-packed inference
von: Zhao, Yushu, et al.
Veröffentlicht: (2025)
von: Zhao, Yushu, et al.
Veröffentlicht: (2025)
Bone Soups: A Seek-and-Soup Model Merging Approach for Controllable Multi-Objective Generation
von: Xie, Guofu, et al.
Veröffentlicht: (2025)
von: Xie, Guofu, et al.
Veröffentlicht: (2025)
OptiMer: Optimal Distribution Vector Merging Is Better than Data Mixing for Continual Pre-Training
von: Song, Haiyue, et al.
Veröffentlicht: (2026)
von: Song, Haiyue, et al.
Veröffentlicht: (2026)
Ähnliche Einträge
-
MergeMix: Optimizing Mid-Training Data Mixtures via Learnable Model Merging
von: Wang, Jiapeng, et al.
Veröffentlicht: (2026) -
MIN-Merging: Merge the Important Neurons for Model Merging
von: Liang, Yunfei
Veröffentlicht: (2025) -
PSO-Merging: Merging Models Based on Particle Swarm Optimization
von: Zhang, Kehao, et al.
Veröffentlicht: (2025) -
Model Merging for Knowledge Editing
von: Fu, Zichuan, et al.
Veröffentlicht: (2025) -
Mix Data or Merge Models? Balancing the Helpfulness, Honesty, and Harmlessness of Large Language Model via Model Merging
von: Yang, Jinluan, et al.
Veröffentlicht: (2025)