SyMerge: From Non-Interference to Synergistic Merging via Single-Layer Adaptation
Fuente:
arXiv
Salvato in:
| Autori principali: | Jung, Aecheon, Lee, Seunghwan, Han, Dongyoon, Hong, Sungeun |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Task Vector Quantization for Memory-Efficient Model Merging
di: Kim, Youngeun, et al.
Pubblicazione: (2025)
di: Kim, Youngeun, et al.
Pubblicazione: (2025)
Dynamic Rank Adjustment for Accurate and Efficient Neural Network Training
di: Shin, Hyuntak, et al.
Pubblicazione: (2025)
di: Shin, Hyuntak, et al.
Pubblicazione: (2025)
NegMerge: Sign-Consensual Weight Merging for Machine Unlearning
di: Kim, Hyo Seo, et al.
Pubblicazione: (2024)
di: Kim, Hyo Seo, et al.
Pubblicazione: (2024)
Mitigating Parameter Interference in Model Merging via Sharpness-Aware Fine-Tuning
di: Lee, Yeoreum, et al.
Pubblicazione: (2025)
di: Lee, Yeoreum, et al.
Pubblicazione: (2025)
Optimal Brain Iterative Merging: Mitigating Interference in LLM Merging
di: Wang, Zhixiang, et al.
Pubblicazione: (2025)
di: Wang, Zhixiang, et al.
Pubblicazione: (2025)
Rethinking Layer-wise Model Merging through Chain of Merges
di: Buzzega, Pietro, et al.
Pubblicazione: (2025)
di: Buzzega, Pietro, et al.
Pubblicazione: (2025)
Expert Merging: Model Merging with Unsupervised Expert Alignment and Importance-Guided Layer Chunking
di: Zhang, Dengming, et al.
Pubblicazione: (2025)
di: Zhang, Dengming, et al.
Pubblicazione: (2025)
Merge before Forget: A Single LoRA Continual Learning via Continual Merging
di: Qiao, Fuli, et al.
Pubblicazione: (2025)
di: Qiao, Fuli, et al.
Pubblicazione: (2025)
ES-Merging: Biological MLLM Merging via Embedding Space Signals
di: Lee, Wonbin, et al.
Pubblicazione: (2026)
di: Lee, Wonbin, et al.
Pubblicazione: (2026)
FedMerge: Federated Personalization via Model Merging
di: Chen, Shutong, et al.
Pubblicazione: (2025)
di: Chen, Shutong, et al.
Pubblicazione: (2025)
LayerMerge: Neural Network Depth Compression through Layer Pruning and Merging
di: Kim, Jinuk, et al.
Pubblicazione: (2024)
di: Kim, Jinuk, et al.
Pubblicazione: (2024)
MergeIT: From Selection to Merging for Efficient Instruction Tuning
di: Cai, Hongyi, et al.
Pubblicazione: (2025)
di: Cai, Hongyi, et al.
Pubblicazione: (2025)
Tensorized Clustered LoRA Merging for Multi-Task Interference
di: Su, Zhan, et al.
Pubblicazione: (2025)
di: Su, Zhan, et al.
Pubblicazione: (2025)
MergeBench: A Benchmark for Merging Domain-Specialized LLMs
di: He, Yifei, et al.
Pubblicazione: (2025)
di: He, Yifei, et al.
Pubblicazione: (2025)
Communication-Efficient Personalized Adaptation via Federated-Local Model Merging
di: Zou, Yinan, et al.
Pubblicazione: (2026)
di: Zou, Yinan, et al.
Pubblicazione: (2026)
MIN-Merging: Merge the Important Neurons for Model Merging
di: Liang, Yunfei
Pubblicazione: (2025)
di: Liang, Yunfei
Pubblicazione: (2025)
Revisiting Weight Averaging for Model Merging
di: Choi, Jiho, et al.
Pubblicazione: (2024)
di: Choi, Jiho, et al.
Pubblicazione: (2024)
Scalable Model Merging with Progressive Layer-wise Distillation
di: Xu, Jing, et al.
Pubblicazione: (2025)
di: Xu, Jing, et al.
Pubblicazione: (2025)
Merge to Mix: Mixing Datasets via Model Merging
di: Tao, Zhixu Silvia, et al.
Pubblicazione: (2025)
di: Tao, Zhixu Silvia, et al.
Pubblicazione: (2025)
Model Assembly Learning with Heterogeneous Layer Weight Merging
di: Zhang, Yi-Kai, et al.
Pubblicazione: (2025)
di: Zhang, Yi-Kai, et al.
Pubblicazione: (2025)
Bayesian Model Merging
di: Li, Kaiyang, et al.
Pubblicazione: (2026)
di: Li, Kaiyang, et al.
Pubblicazione: (2026)
Whoever Started the Interference Should End It: Guiding Data-Free Model Merging via Task Vectors
di: Cheng, Runxi, et al.
Pubblicazione: (2025)
di: Cheng, Runxi, et al.
Pubblicazione: (2025)
CodeMerge: Codebook-Guided Model Merging for Robust Test-Time Adaptation in Autonomous Driving
di: Yang, Huitong, et al.
Pubblicazione: (2025)
di: Yang, Huitong, et al.
Pubblicazione: (2025)
DC-Merge: Improving Model Merging with Directional Consistency
di: Zhang, Han-Chen, et al.
Pubblicazione: (2026)
di: Zhang, Han-Chen, et al.
Pubblicazione: (2026)
MergeMoE: Efficient Compression of MoE Models via Expert Output Merging
di: Miao, Ruijie, et al.
Pubblicazione: (2025)
di: Miao, Ruijie, et al.
Pubblicazione: (2025)
Merging Models on the Fly Without Retraining: A Sequential Approach to Scalable Continual Model Merging
di: Tang, Anke, et al.
Pubblicazione: (2025)
di: Tang, Anke, et al.
Pubblicazione: (2025)
Pareto Merging: Multi-Objective Optimization for Preference-Aware Model Merging
di: Chen, Weiyu, et al.
Pubblicazione: (2024)
di: Chen, Weiyu, et al.
Pubblicazione: (2024)
BadMerging: Backdoor Attacks Against Model Merging
di: Zhang, Jinghuai, et al.
Pubblicazione: (2024)
di: Zhang, Jinghuai, et al.
Pubblicazione: (2024)
MergeMix: Optimizing Mid-Training Data Mixtures via Learnable Model Merging
di: Wang, Jiapeng, et al.
Pubblicazione: (2026)
di: Wang, Jiapeng, et al.
Pubblicazione: (2026)
Non-Uniform Parameter-Wise Model Merging
di: Camacho, Albert Manuel Orozco, et al.
Pubblicazione: (2024)
di: Camacho, Albert Manuel Orozco, et al.
Pubblicazione: (2024)
IAM: Enhancing RGB-D Instance Segmentation with New Benchmarks
di: Jung, Aecheon, et al.
Pubblicazione: (2025)
di: Jung, Aecheon, et al.
Pubblicazione: (2025)
Unraveling LoRA Interference: Orthogonal Subspaces for Robust Model Merging
di: Zhang, Haobo, et al.
Pubblicazione: (2025)
di: Zhang, Haobo, et al.
Pubblicazione: (2025)
Data-Free Layer-Adaptive Merging via Fisher Information for Long-to-Short Reasoning LLMs
di: Xia, Tian
Pubblicazione: (2026)
di: Xia, Tian
Pubblicazione: (2026)
Orthogonal Model Merging
di: Yang, Sihan, et al.
Pubblicazione: (2026)
di: Yang, Sihan, et al.
Pubblicazione: (2026)
Merge Now, Regret Later: The Hidden Cost of Model Merging is Adversarial Transferability
di: Gangwal, Ankit, et al.
Pubblicazione: (2025)
di: Gangwal, Ankit, et al.
Pubblicazione: (2025)
Channel Merging: Preserving Specialization for Merged Experts
di: Zhang, Mingyang, et al.
Pubblicazione: (2024)
di: Zhang, Mingyang, et al.
Pubblicazione: (2024)
CavMerge: Merging K-means Based on Local Log-Concavity
di: Qiao, Zhili, et al.
Pubblicazione: (2026)
di: Qiao, Zhili, et al.
Pubblicazione: (2026)
FW-Merging: Scaling Model Merging with Frank-Wolfe Optimization
di: Chen, Hao Mark, et al.
Pubblicazione: (2025)
di: Chen, Hao Mark, et al.
Pubblicazione: (2025)
PSO-Merging: Merging Models Based on Particle Swarm Optimization
di: Zhang, Kehao, et al.
Pubblicazione: (2025)
di: Zhang, Kehao, et al.
Pubblicazione: (2025)
RegCL: Continual Adaptation of Segment Anything Model via Model Merging
di: Shu, Yuan-Chen, et al.
Pubblicazione: (2025)
di: Shu, Yuan-Chen, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Task Vector Quantization for Memory-Efficient Model Merging
di: Kim, Youngeun, et al.
Pubblicazione: (2025) -
Dynamic Rank Adjustment for Accurate and Efficient Neural Network Training
di: Shin, Hyuntak, et al.
Pubblicazione: (2025) -
NegMerge: Sign-Consensual Weight Merging for Machine Unlearning
di: Kim, Hyo Seo, et al.
Pubblicazione: (2024) -
Mitigating Parameter Interference in Model Merging via Sharpness-Aware Fine-Tuning
di: Lee, Yeoreum, et al.
Pubblicazione: (2025) -
Optimal Brain Iterative Merging: Mitigating Interference in LLM Merging
di: Wang, Zhixiang, et al.
Pubblicazione: (2025)