Wanda++: Pruning Large Language Models via Regional Gradients
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Yang, Yifan, Zhen, Kai, Ganesh, Bhavana, Galstyan, Aram, Huybrechts, Goeric, Müller, Markus, Kübler, Jonas M., Swaminathan, Rupak Vignesh, Mouchtaris, Athanasios, Bodapati, Sravan Babu, Susanj, Nathan, Zhang, Zheng, FitzGerald, Jack, Kumar, Abhishek |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Adaptive Video Understanding Agent: Enhancing efficiency with dynamic frame sampling and feedback-driven reasoning
von: Jeoung, Sullam, et al.
Veröffentlicht: (2024)
von: Jeoung, Sullam, et al.
Veröffentlicht: (2024)
Saten: Sparse Augmented Tensor Networks for Post-Training Compression of Large Language Models
von: Solgi, Ryan, et al.
Veröffentlicht: (2025)
von: Solgi, Ryan, et al.
Veröffentlicht: (2025)
SeRA: Self-Reviewing and Alignment of Large Language Models using Implicit Reward Margins
von: Ko, Jongwoo, et al.
Veröffentlicht: (2024)
von: Ko, Jongwoo, et al.
Veröffentlicht: (2024)
Accelerated Test-Time Scaling with Model-Free Speculative Sampling
von: Song, Woomin, et al.
Veröffentlicht: (2025)
von: Song, Woomin, et al.
Veröffentlicht: (2025)
Think Clearly: Improving Reasoning via Redundant Token Pruning
von: Choi, Daewon, et al.
Veröffentlicht: (2025)
von: Choi, Daewon, et al.
Veröffentlicht: (2025)
DCTX-Conformer: Dynamic context carry-over for low latency unified streaming and non-streaming Conformer ASR
von: Huybrechts, Goeric, et al.
Veröffentlicht: (2023)
von: Huybrechts, Goeric, et al.
Veröffentlicht: (2023)
SharpZO: Hybrid Sharpness-Aware Vision Language Model Prompt Tuning via Forward-Only Passes
von: Yang, Yifan, et al.
Veröffentlicht: (2025)
von: Yang, Yifan, et al.
Veröffentlicht: (2025)
The Twin Purposes of Guided Inquiry: Guiding Student Inquiry and Evidence-Based Practice
von: FitzGerald, Lee
Veröffentlicht: (2010)
von: FitzGerald, Lee
Veröffentlicht: (2010)
Impossible Things in the Age of Reformations
von: Brian FitzGerald
Veröffentlicht: (2025)
von: Brian FitzGerald
Veröffentlicht: (2025)
QuAILoRA: Quantization-Aware Initialization for LoRA
von: Lawton, Neal, et al.
Veröffentlicht: (2024)
von: Lawton, Neal, et al.
Veröffentlicht: (2024)
QSTToolkit: A Python Library for Deep Learning Powered Quantum State Tomography
von: FitzGerald, George, et al.
Veröffentlicht: (2025)
von: FitzGerald, George, et al.
Veröffentlicht: (2025)
Catherine Vézina, Diplomacia migratoria: una historia transnacional del Programa Bracero, 1947-1952, México, Centro de Investigación y Docencia Económicas, 2017, 404 pp. ISBN 978-607-446-102-2
von: David Scott FitzGerald
Veröffentlicht: (2020)
von: David Scott FitzGerald
Veröffentlicht: (2020)
Erika Pani, Para pertenecer a la gran familia mexicana: procesos de naturalización en el siglo xix, México, El Colegio de México, 2015, 204 pp. ISBN 978-607-462-713-8
von: David Scott FitzGerald
Veröffentlicht: (2016)
von: David Scott FitzGerald
Veröffentlicht: (2016)
MaZO: Masked Zeroth-Order Optimization for Multi-Task Fine-Tuning of Large Language Models
von: Zhang, Zhen, et al.
Veröffentlicht: (2025)
von: Zhang, Zhen, et al.
Veröffentlicht: (2025)
Compress, Gather, and Recompute: REFORMing Long-Context Processing in Transformers
von: Song, Woomin, et al.
Veröffentlicht: (2025)
von: Song, Woomin, et al.
Veröffentlicht: (2025)
Random walks in Weyl chambers
von: Denisov, Denis, et al.
Veröffentlicht: (2025)
von: Denisov, Denis, et al.
Veröffentlicht: (2025)
Critique de la méthode de distinction entre poissons anadromes et dulcicoles de la même espèce par la teneur en strontium de leurs écailles
von: Castonguay, M., FitzGerald, G. J
Veröffentlicht: (1982)
von: Castonguay, M., FitzGerald, G. J
Veröffentlicht: (1982)
Ordered random walks and the Airy line ensemble
von: Denisov, Denis, et al.
Veröffentlicht: (2024)
von: Denisov, Denis, et al.
Veröffentlicht: (2024)
Library Signage: Applications for the Apple Macintosh and MacPaint.
von: Diskin, Jill A., et al.
Veröffentlicht: (1984)
von: Diskin, Jill A., et al.
Veröffentlicht: (1984)
PHLoRA: data-free Post-hoc Low-Rank Adapter extraction from full-rank checkpoint
von: Vasani, Bhoomit, et al.
Veröffentlicht: (2025)
von: Vasani, Bhoomit, et al.
Veröffentlicht: (2025)
Activation-Informed Pareto-Guided Low-Rank Compression for Efficient LLM/VLM
von: Solgi, Ryan, et al.
Veröffentlicht: (2025)
von: Solgi, Ryan, et al.
Veröffentlicht: (2025)
MATTER: Memory-Augmented Transformer Using Heterogeneous Knowledge Sources
von: Lee, Dongkyu, et al.
Veröffentlicht: (2024)
von: Lee, Dongkyu, et al.
Veröffentlicht: (2024)
The effect of predation on the dynamics of Chronic Wasting Disease in deer
von: FitzGerald, Cody E., et al.
Veröffentlicht: (2025)
von: FitzGerald, Cody E., et al.
Veröffentlicht: (2025)
Document Haystack: A Long Context Multimodal Image/Document Understanding Vision LLM Benchmark
von: Huybrechts, Goeric, et al.
Veröffentlicht: (2025)
von: Huybrechts, Goeric, et al.
Veröffentlicht: (2025)
"Just Let Me Go at It": Exploring Students' Use and Perceptions of Guided Inquiry
von: Garrison, Kasey L., et al.
Veröffentlicht: (2018)
von: Garrison, Kasey L., et al.
Veröffentlicht: (2018)
Mamba Drafters for Speculative Decoding
von: Choi, Daewon, et al.
Veröffentlicht: (2025)
von: Choi, Daewon, et al.
Veröffentlicht: (2025)
Semirigidity and the enumeration of nilpotent semigroups of index three
von: Dolinka, Igor, et al.
Veröffentlicht: (2024)
von: Dolinka, Igor, et al.
Veröffentlicht: (2024)
Beyond “make” or “buy”: Evaluating value‐for‐money in public service delivery
von: Mehdi Shiva, et al.
Veröffentlicht: (2024)
von: Mehdi Shiva, et al.
Veröffentlicht: (2024)
Context Length Alone Hurts LLM Performance Despite Perfect Retrieval
von: Du, Yufeng, et al.
Veröffentlicht: (2025)
von: Du, Yufeng, et al.
Veröffentlicht: (2025)
EDGE-OPD: Internalizing Privileged Context with Evidence Guided On-Policy Distillation
von: Lazaridis, Aristotelis, et al.
Veröffentlicht: (2026)
von: Lazaridis, Aristotelis, et al.
Veröffentlicht: (2026)
M-Wanda: Improving One-Shot Pruning for Multilingual LLMs
von: Choenni, Rochelle, et al.
Veröffentlicht: (2025)
von: Choenni, Rochelle, et al.
Veröffentlicht: (2025)
Socioeconomic Inequality in the Head and Neck Cancer Referral System: Redressing the Balance
von: Sabrina Tengku, et al.
Veröffentlicht: (2024)
von: Sabrina Tengku, et al.
Veröffentlicht: (2024)
Discovering a low-dimensional temperature control architecture across animals
von: FitzGerald, Cody E., et al.
Veröffentlicht: (2025)
von: FitzGerald, Cody E., et al.
Veröffentlicht: (2025)
Incorporating transgender and nonbinary participants in phase 1 clinical drug trials: Current knowledge gaps and considerations
von: Lauren E. Walker, et al.
Veröffentlicht: (2024)
von: Lauren E. Walker, et al.
Veröffentlicht: (2024)
Schema therapy in adults with autism spectrum disorder: A scoping review
von: Richard Vuijk, et al.
Veröffentlicht: (2024)
von: Richard Vuijk, et al.
Veröffentlicht: (2024)
A Scale for Measuring Positive and Negative Experiences of Psychotherapy (PNEP): First Psychometric Findings of a New Instrument for Monitoring Clients' Experiences
von: Brechje Dandachi‐FitzGerald, et al.
Veröffentlicht: (2024)
von: Brechje Dandachi‐FitzGerald, et al.
Veröffentlicht: (2024)
2D and 3D Deep Learning Models for MRI-based Parkinson's Disease Classification: A Comparative Analysis of Convolutional Kolmogorov-Arnold Networks, Convolutional Neural Networks, and Graph Convolutional Networks
von: Patel, Salil B, et al.
Veröffentlicht: (2024)
von: Patel, Salil B, et al.
Veröffentlicht: (2024)
Provision of Evidence‐Informed Psychological Interventions Following the Queensland (Australia) 2010–11 Floods and Cyclones; the Barriers and Successes
von: David Crompton, et al.
Veröffentlicht: (2025)
von: David Crompton, et al.
Veröffentlicht: (2025)
Outcomes of pregnancies that screened positive for sex chromosome aneuploidy ascertained via cell‐free DNA screening
von: Cali FitzGerald, et al.
Veröffentlicht: (2025)
von: Cali FitzGerald, et al.
Veröffentlicht: (2025)
Comparing Metal–Organic Framework Encapsulation With Conventional Filtering for Environmental DNA Capture From Seawater
von: Laura I. FitzGerald, et al.
Veröffentlicht: (2025)
von: Laura I. FitzGerald, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
Adaptive Video Understanding Agent: Enhancing efficiency with dynamic frame sampling and feedback-driven reasoning
von: Jeoung, Sullam, et al.
Veröffentlicht: (2024) -
Saten: Sparse Augmented Tensor Networks for Post-Training Compression of Large Language Models
von: Solgi, Ryan, et al.
Veröffentlicht: (2025) -
SeRA: Self-Reviewing and Alignment of Large Language Models using Implicit Reward Margins
von: Ko, Jongwoo, et al.
Veröffentlicht: (2024) -
Accelerated Test-Time Scaling with Model-Free Speculative Sampling
von: Song, Woomin, et al.
Veröffentlicht: (2025) -
Think Clearly: Improving Reasoning via Redundant Token Pruning
von: Choi, Daewon, et al.
Veröffentlicht: (2025)