Copertina

Mosaic: Composite Projection Pruning for Resource-efficient LLMs

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Eccles, Bailey J., Wong, Leon, Varghese, Blesson
Natura:	Preprint
Pubblicazione:	2025
Soggetti:	Machine Learning Artificial Intelligence
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Rapid Deployment of DNNs for Edge Computing via Structured Pruning at Initialization
di: Eccles, Bailey J., et al.
Pubblicazione: (2024)

Data-Free Pruning of Self-Attention Layers in LLMs
di: Saikumar, Dhananjay, et al.
Pubblicazione: (2025)

DNNShifter: An Efficient DNN Pruning System for Edge Computing
di: Eccles, Bailey J., et al.
Pubblicazione: (2023)

Signal Collapse in One-Shot Pruning: When Sparse Models Fail to Distinguish Neural Representations
di: Saikumar, Dhananjay, et al.
Pubblicazione: (2025)

FedOptima: Optimizing Resource Utilization in Federated Learning
di: Zhang, Zihan, et al.
Pubblicazione: (2025)

Mosaic Pruning: A Hierarchical Framework for Generalizable Pruning of Mixture-of-Experts Models
di: Hu, Wentao, et al.
Pubblicazione: (2025)

DRIVE: Dual Gradient-Based Rapid Iterative Pruning
di: Saikumar, Dhananjay, et al.
Pubblicazione: (2024)

Ampere: Communication-Efficient and High-Accuracy Split Federated Learning
di: Zhang, Zihan, et al.
Pubblicazione: (2025)

Memory Mosaics
di: Zhang, Jianyu, et al.
Pubblicazione: (2024)

MobiEdit: Resource-efficient Knowledge Editing for Personalized On-device LLMs
di: Lu, Zhenyan, et al.
Pubblicazione: (2025)

PrunePEFT: Iterative Hybrid Pruning for Parameter-Efficient Fine-tuning of LLMs
di: Yu, Tongzhou, et al.
Pubblicazione: (2025)

Safe Pruning LoRA: Robust Distance-Guided Pruning for Safety Alignment in Adaptation of LLMs
di: Ao, Shuang, et al.
Pubblicazione: (2025)

PERP: Rethinking the Prune-Retrain Paradigm in the Era of LLMs
di: Zimmer, Max, et al.
Pubblicazione: (2023)

Resource-Constrained Affect Modelling via Variance Regularisation Pruning
di: Pinitas, Kosmas, et al.
Pubblicazione: (2026)

UnIT: Scalable Unstructured Inference-Time Pruning for MAC-efficient Neural Inference on MCUs
di: Neth, Ashe, et al.
Pubblicazione: (2025)

Resource-Aware Neural Network Pruning Using Graph-based Reinforcement Learning
di: Balemans, Dieter, et al.
Pubblicazione: (2025)

Probe Pruning: Accelerating LLMs through Dynamic Pruning via Model-Probing
di: Le, Qi, et al.
Pubblicazione: (2025)

NeuroFlux: Memory-Efficient CNN Training Using Adaptive Local Learning
di: Saikumar, Dhananjay, et al.
Pubblicazione: (2024)

UniPruning: Unifying Local Metric and Global Feedback for Scalable Sparse LLMs
di: Ding, Yizhuo, et al.
Pubblicazione: (2025)

Maximum Redundancy Pruning: A Principle-Driven Layerwise Sparsity Allocation for LLMs
di: Gao, Chang, et al.
Pubblicazione: (2025)

Mosaic of Modalities: A Comprehensive Benchmark for Multimodal Graph Learning
di: Zhu, Jing, et al.
Pubblicazione: (2024)

Dynamic Vocabulary Pruning in Early-Exit LLMs
di: Vincenti, Jort, et al.
Pubblicazione: (2024)

IntraSlice: Towards High-Performance Structural Pruning with Block-Intra PCA for LLMs
di: Li, Meng, et al.
Pubblicazione: (2026)

Ghosted Layers: Unconstrained Activation Alignment for Recovering Layer-Pruned LLMs
di: Yun, Vincent-Daniel, et al.
Pubblicazione: (2026)

AudioMosaic: Contrastive Masked Audio Representation Learning
di: Huang, Hanxun, et al.
Pubblicazione: (2026)

DONOD: Efficient and Generalizable Instruction Fine-Tuning for LLMs via Model-Intrinsic Dataset Pruning
di: Hu, Jucheng, et al.
Pubblicazione: (2025)

SLoPe: Double-Pruned Sparse Plus Lazy Low-Rank Adapter Pretraining of LLMs
di: Mozaffari, Mohammad, et al.
Pubblicazione: (2024)

Two-Stage Regularization-Based Structured Pruning for LLMs
di: Feng, Mingkuan, et al.
Pubblicazione: (2025)

Resource-efficient Layer-wise Federated Self-supervised Learning
di: Tun, Ye Lin, et al.
Pubblicazione: (2024)

When Fewer Layers Break More Chains: Layer Pruning Harms Test-Time Scaling in LLMs
di: Wang, Keyu, et al.
Pubblicazione: (2025)

OPTIMA: Optimal One-shot Pruning for LLMs via Quadratic Programming Reconstruction
di: Mozaffari, Mohammad, et al.
Pubblicazione: (2025)

Frugal Machine Learning for Energy-efficient, and Resource-aware Artificial Intelligence
di: Violos, John, et al.
Pubblicazione: (2025)

Sparsest Models Elude Pruning: An Exposé of Pruning's Current Capabilities
di: Zhang, Stephen, et al.
Pubblicazione: (2024)

REAM: Merging Improves Pruning of Experts in LLMs
di: Jha, Saurav, et al.
Pubblicazione: (2026)

SwiftPrune: Hessian-Free Weight Pruning for Large Language Models
di: Kang, Yuhan, et al.
Pubblicazione: (2025)

IPPRO: Importance-based Pruning with PRojective Offset for Magnitude-indifferent Structural Pruning
di: Jung, Jaeheun, et al.
Pubblicazione: (2025)

TopoPrune: Robust Data Pruning via Unified Latent Space Topology
di: Roy, Arjun, et al.
Pubblicazione: (2026)

Junk DNA Hypothesis: Pruning Small Pre-Trained Weights Irreversibly and Monotonically Impairs "Difficult" Downstream Tasks in LLMs
di: Yin, Lu, et al.
Pubblicazione: (2023)

2SSP: A Two-Stage Framework for Structured Pruning of LLMs
di: Sandri, Fabrizio, et al.
Pubblicazione: (2025)

ASFL: An Adaptive Model Splitting and Resource Allocation Framework for Split Federated Learning
di: Meng, Chuiyang, et al.
Pubblicazione: (2026)