Buchumschlag

A Novel Hierarchical Integration Method for Efficient Model Merging in Medical LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Timilsina, Prakrit, Nepal, Anuj, Kadel, Rajan, Doss, Robin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Hierarchical Context Merging: Better Long Context Understanding for Pre-trained LLMs
von: Song, Woomin, et al.
Veröffentlicht: (2024)

Distribution Matching via Generalized Consistency Models
von: Shrestha, Sagar, et al.
Veröffentlicht: (2025)

Identifiable Shared Component Analysis of Unpaired Multimodal Mixtures
von: Timilsina, Subash, et al.
Veröffentlicht: (2024)

MergeIT: From Selection to Merging for Efficient Instruction Tuning
von: Cai, Hongyi, et al.
Veröffentlicht: (2025)

Twin-Merging: Dynamic Integration of Modular Expertise in Model Merging
von: Lu, Zhenyi, et al.
Veröffentlicht: (2024)

MIN-Merging: Merge the Important Neurons for Model Merging
von: Liang, Yunfei
Veröffentlicht: (2025)

Weight Scope Alignment: A Frustratingly Easy Method for Model Merging
von: Xu, Yichu, et al.
Veröffentlicht: (2024)

The Mean is the Mirage: Entropy-Adaptive Model Merging under Heterogeneous Domain Shifts in Medical Imaging
von: Ambekar, Sameer, et al.
Veröffentlicht: (2026)

CAT Merging: A Training-Free Approach for Resolving Conflicts in Model Merging
von: Sun, Wenju, et al.
Veröffentlicht: (2025)

FW-Merging: Scaling Model Merging with Frank-Wolfe Optimization
von: Chen, Hao Mark, et al.
Veröffentlicht: (2025)

PSO-Merging: Merging Models Based on Particle Swarm Optimization
von: Zhang, Kehao, et al.
Veröffentlicht: (2025)

Bayesian Model Merging
von: Li, Kaiyang, et al.
Veröffentlicht: (2026)

HERCULES: Hierarchical Embedding-based Recursive Clustering Using LLMs for Efficient Summarization
von: Petnehazi, Gabor, et al.
Veröffentlicht: (2025)

Content-Style Identification via Differential Independence
von: Timilsina, Subash, et al.
Veröffentlicht: (2026)

Merging Smarter, Generalizing Better: Enhancing Model Merging on OOD Data
von: Zhang, Bingjie, et al.
Veröffentlicht: (2025)

Decom-Renorm-Merge: Model Merging on the Right Space Improves Multitasking
von: Chaichana, Yuatyong, et al.
Veröffentlicht: (2025)

Fine, I'll Merge It Myself: A Multi-Fidelity Framework for Automated Model Merging
von: Su, Guinan, et al.
Veröffentlicht: (2025)

Model Merging: Foundations and Algorithms
von: Crisostomi, Donato
Veröffentlicht: (2026)

Model Merging in the Essential Subspace
von: Li, Longhua, et al.
Veröffentlicht: (2026)

Toward Data Efficient Model Merging between Different Datasets without Performance Degradation
von: Yamada, Masanori, et al.
Veröffentlicht: (2023)

Segformer++: Efficient Token-Merging Strategies for High-Resolution Semantic Segmentation
von: Kienzle, Daniel, et al.
Veröffentlicht: (2024)

Merge then Realign: Simple and Effective Modality-Incremental Continual Learning for Multimodal LLMs
von: Zhang, Dingkun, et al.
Veröffentlicht: (2025)

Model Merging in LLMs, MLLMs, and Beyond: Methods, Theories, Applications and Opportunities
von: Yang, Enneng, et al.
Veröffentlicht: (2024)

What Fundamental Structure in Reward Functions Enables Efficient Sparse-Reward Learning?
von: Shihab, Ibne Farabi, et al.
Veröffentlicht: (2025)

MergeMix: Optimizing Mid-Training Data Mixtures via Learnable Model Merging
von: Wang, Jiapeng, et al.
Veröffentlicht: (2026)

BD-Merging: Bias-Aware Dynamic Model Merging with Evidence-Guided Contrastive Learning
von: Xie, Yuhan, et al.
Veröffentlicht: (2026)

Multi-Level Collaboration in Model Merging
von: Li, Qi, et al.
Veröffentlicht: (2025)

Training-free Heterogeneous Model Merging
von: Xu, Zhengqi, et al.
Veröffentlicht: (2024)

Sparsity-Aware Evolution for Model Merging
von: Zhang, Huan, et al.
Veröffentlicht: (2026)

Revisiting Weight Averaging for Model Merging
von: Choi, Jiho, et al.
Veröffentlicht: (2024)

Model Merging on Loss Landscape: A Geometry Perspective
von: Lu, Juanwu, et al.
Veröffentlicht: (2026)

Towards Minimizing Feature Drift in Model Merging: Layer-wise Task Vector Fusion for Adaptive Knowledge Integration
von: Sun, Wenju, et al.
Veröffentlicht: (2025)

On the Limits of Layer Pruning for Generative Reasoning in Large Language Models
von: Shrestha, Safal, et al.
Veröffentlicht: (2026)

MaCP: Minimal yet Mighty Adaptation via Hierarchical Cosine Projection
von: Shen, Yixian, et al.
Veröffentlicht: (2025)

MaCP: Minimal yet Mighty Adaptation via Hierarchical Cosine Projection
von: Shen, Yixian, et al.
Veröffentlicht: (2024)

Building a Chinese Medical Dialogue System: Integrating Large-scale Corpora and Novel Models
von: Wang, Xinyuan, et al.
Veröffentlicht: (2024)

Text to Trust: Evaluating Fine-Tuning and LoRA Trade-offs in Language Models for Unfair Terms of Service Detection
von: Juttu, Noshitha Padma Pratyusha, et al.
Veröffentlicht: (2025)

Superpose Task-specific Features for Model Merging
von: Qiu, Haiquan, et al.
Veröffentlicht: (2025)

Non-Uniform Parameter-Wise Model Merging
von: Camacho, Albert Manuel Orozco, et al.
Veröffentlicht: (2024)

Vanishing Feature: Diagnosing Model Merging and Beyond
von: Qu, Xingyu, et al.
Veröffentlicht: (2024)