Buchumschlag

LayerMerge: Neural Network Depth Compression through Layer Pruning and Merging

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kim, Jinuk, Halabi, Marwa El, Ji, Mingi, Song, Hyun Oh
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

LiNeS: Post-training Layer Scaling Prevents Forgetting and Enhances Model Merging
von: Wang, Ke, et al.
Veröffentlicht: (2024)

Till the Layers Collapse: Compressing a Deep Neural Network through the Lenses of Batch Normalization Layers
von: Liao, Zhu, et al.
Veröffentlicht: (2024)

AdaRank: Adaptive Rank Pruning for Enhanced Model Merging
von: Lee, Chanhyuk, et al.
Veröffentlicht: (2025)

Localizing Task Information for Improved Model Merging and Compression
von: Wang, Ke, et al.
Veröffentlicht: (2024)

Shapley Pruning for Neural Network Compression
von: Adamczewski, Kamil, et al.
Veröffentlicht: (2024)

DC-Merge: Improving Model Merging with Directional Consistency
von: Zhang, Han-Chen, et al.
Veröffentlicht: (2026)

LARV: Data-Free Layer-wise Adaptive Rescaling Veneer for Model Merging
von: Wang, Xinyu, et al.
Veröffentlicht: (2026)

Layer as Puzzle Pieces: Compressing Large Language Models through Layer Concatenation
von: Wang, Fei, et al.
Veröffentlicht: (2025)

AdaMerging: Adaptive Model Merging for Multi-Task Learning
von: Yang, Enneng, et al.
Veröffentlicht: (2023)

EMR-Merging: Tuning-Free High-Performance Model Merging
von: Huang, Chenyu, et al.
Veröffentlicht: (2024)

CubistMerge: Spatial-Preserving Token Merging For Diverse ViT Backbones
von: Gong, Wenyi, et al.
Veröffentlicht: (2025)

SGLP: A Similarity Guided Fast Layer Partition Pruning for Compressing Large Deep Models
von: Li, Yuqi, et al.
Veröffentlicht: (2024)

Harmony in Diversity: Merging Neural Networks with Canonical Correlation Analysis
von: Horoi, Stefan, et al.
Veröffentlicht: (2024)

Saliency-Aware Model Merging
von: Park, Jungin, et al.
Veröffentlicht: (2026)

CodeMerge: Codebook-Guided Model Merging for Robust Test-Time Adaptation in Autonomous Driving
von: Yang, Huitong, et al.
Veröffentlicht: (2025)

ATM: Improving Model Merging by Alternating Tuning and Merging
von: Zhou, Luca, et al.
Veröffentlicht: (2024)

Layer Pruning with Consensus: A Triple-Win Solution
von: Mugnaini, Leandro Giusti, et al.
Veröffentlicht: (2024)

Pruning Self-attentions into Convolutional Layers in Single Path
von: He, Haoyu, et al.
Veröffentlicht: (2021)

Reassessing Layer Pruning in LLMs: New Insights and Methods
von: Lu, Yao, et al.
Veröffentlicht: (2024)

FGFP: A Fractional Gaussian Filter and Pruning for Deep Neural Networks Compression
von: Tu, Kuan-Ting, et al.
Veröffentlicht: (2025)

Merge-Friendly Post-Training Quantization for Multi-Target Domain Adaptation
von: Shin, Juncheol, et al.
Veröffentlicht: (2025)

CAMP-HiVe: Cyclic Pair Merging based Efficient DNN Pruning with Hessian-Vector Approximation for Resource-Constrained Systems
von: Uddin, Mohammad Helal, et al.
Veröffentlicht: (2025)

Bridging Domains through Subspace-Aware Model Merging
von: Chaves, Levy, et al.
Veröffentlicht: (2026)

Efficient Visual Transformer by Learnable Token Merging
von: Wang, Yancheng, et al.
Veröffentlicht: (2024)

Label-Free Cross-Task LoRA Merging with Null-Space Compression
von: Lee, Wonyoung, et al.
Veröffentlicht: (2026)

Efficient Multi-Source Knowledge Transfer by Model Merging
von: Osial, Marcin, et al.
Veröffentlicht: (2025)

Analytic Convolutional Layer: A Step to Analytic Neural Network
von: Cui, Jingmao, et al.
Veröffentlicht: (2024)

Variance-Based Pruning for Accelerating and Compressing Trained Networks
von: Berisha, Uranik, et al.
Veröffentlicht: (2025)

Subspace-Boosted Model Merging
von: Skorobogat, Ronald, et al.
Veröffentlicht: (2025)

ZipIt! Merging Models from Different Tasks without Training
von: Stoica, George, et al.
Veröffentlicht: (2023)

Weight Weaving: Parameter Pooling for Data-Free Model Merging
von: Chaves, Levy, et al.
Veröffentlicht: (2025)

Merge and Bound: Direct Manipulations on Weights for Class Incremental Learning
von: Kim, Taehoon, et al.
Veröffentlicht: (2025)

Neural Image Compression with Text-guided Encoding for both Pixel-level and Perceptual Fidelity
von: Lee, Hagyeong, et al.
Veröffentlicht: (2024)

Realistic Evaluation of Model Merging for Compositional Generalization
von: Tam, Derek, et al.
Veröffentlicht: (2024)

Multi-Dimensional Pruning: Joint Channel, Layer and Block Pruning with Latency Constraint
von: Sun, Xinglong, et al.
Veröffentlicht: (2024)

SSAM: Singular Subspace Alignment for Merging Multimodal Large Language Models
von: Reza, Md Kaykobad, et al.
Veröffentlicht: (2026)

Beyond Training: Dynamic Token Merging for Zero-Shot Video Understanding
von: Zhang, Yiming, et al.
Veröffentlicht: (2024)

Merging Multi-Task Models via Weight-Ensembling Mixture of Experts
von: Tang, Anke, et al.
Veröffentlicht: (2024)

Decouple and Orthogonalize: A Data-Free Framework for LoRA Merging
von: Zheng, Shenghe, et al.
Veröffentlicht: (2025)

Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning
von: Wang, Xi, et al.
Veröffentlicht: (2026)