Copertina

Pruning vs Quantization: Which is Better?

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Kuzmin, Andrey, Nagel, Markus, van Baalen, Mart, Behboodi, Arash, Blankevoort, Tijmen
Natura:	Preprint
Pubblicazione:	2023
Soggetti:	Machine Learning
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

FP8 Quantization: The Power of the Exponent
di: Kuzmin, Andrey, et al.
Pubblicazione: (2022)

GPTVQ: The Blessing of Dimensionality for LLM Quantization
di: van Baalen, Mart, et al.
Pubblicazione: (2024)

The LLM Surgeon
di: van der Ouderaa, Tycho F. A., et al.
Pubblicazione: (2023)

Leech Lattice Vector Quantization for Efficient LLM Compression
di: van der Ouderaa, Tycho F. A., et al.
Pubblicazione: (2026)

Reasoning as Compression: Unifying Budget Forcing via the Conditional Information Bottleneck
di: Massoli, Fabio Valerio, et al.
Pubblicazione: (2026)

Efficient LLM Inference using Dynamic Input Pruning and Cache-Aware Masking
di: Federici, Marco, et al.
Pubblicazione: (2024)

InterroGate: Learning to Share, Specialize, and Prune Representations for Multi-task Learning
di: Bejnordi, Babak Ehteshami, et al.
Pubblicazione: (2024)

Mixture of Cache-Conditional Experts for Efficient Mobile Device Inference
di: Skliar, Andrii, et al.
Pubblicazione: (2024)

On the Sample Complexity of One Hidden Layer Networks with Equivariance, Locality and Weight Sharing
di: Behboodi, Arash, et al.
Pubblicazione: (2024)

FPTQuant: Function-Preserving Transforms for LLM Quantization
di: van Breugel, Boris, et al.
Pubblicazione: (2025)

Dissecting Quantization Error: A Concentration-Alignment Perspective
di: Federici, Marco, et al.
Pubblicazione: (2026)

Four Over Six: More Accurate NVFP4 Quantization with Adaptive Block Scaling
di: Cook, Jack, et al.
Pubblicazione: (2025)

Variational Learning ISTA
di: Massoli, Fabio Valerio, et al.
Pubblicazione: (2024)

Rapid Switching and Multi-Adapter Fusion via Sparse High Rank Adapters
di: Bhardwaj, Kartikeya, et al.
Pubblicazione: (2024)

Differentiable and Learnable Wireless Simulation with Geometric Transformers
di: Hehn, Thomas, et al.
Pubblicazione: (2024)

Quantization vs Pruning: Insights from the Strong Lottery Ticket Hypothesis
di: Kumar, Aakash, et al.
Pubblicazione: (2025)

Think Big, Generate Quick: LLM-to-SLM for Fast Autoregressive Decoding
di: Bergner, Benjamin, et al.
Pubblicazione: (2024)

Sparse High Rank Adapters
di: Bhardwaj, Kartikeya, et al.
Pubblicazione: (2024)

Low-Rank Quantization-Aware Training for LLMs
di: Bondarenko, Yelysei, et al.
Pubblicazione: (2024)

STaMP: Sequence Transformation and Mixed Precision for Low-Precision Activation Quantization
di: Federici, Marco, et al.
Pubblicazione: (2025)

A Probabilistic Approach to Pose Synchronization for Multi-Reference Alignment with Applications to MIMO Wireless Communication Systems
di: Romijnders, Rob, et al.
Pubblicazione: (2025)

Simulating, Fast and Slow: Learning Policies for Black-Box Optimization
di: Massoli, Fabio Valerio, et al.
Pubblicazione: (2024)

Neural Lattice Reduction: A Self-Supervised Geometric Deep Learning Approach
di: Marchetti, Giovanni Luca, et al.
Pubblicazione: (2023)

Local Look-Ahead Guidance via Verifier-in-the-Loop for Automated Theorem Proving
di: Rajaee, Sara, et al.
Pubblicazione: (2025)

Efficient Reasoning on the Edge
di: Bondarenko, Yelysei, et al.
Pubblicazione: (2026)

Reinforcement Learning of Adaptive Acquisition Policies for Inverse Problems
di: Silvestri, Gianluigi, et al.
Pubblicazione: (2024)

An Information Theoretic Perspective on Conformal Prediction
di: Correia, Alvaro H. C., et al.
Pubblicazione: (2024)

Vision-Assisted Digital Twin Creation for mmWave Beam Management
di: Arnold, Maximilian, et al.
Pubblicazione: (2024)

Pruning and Quantization Impact on Graph Neural Networks
di: Khedri, Khatoon, et al.
Pubblicazione: (2025)

Which Imputation Fits Which Feature Selection Method? A Survey-Based Simulation Study
di: Schwerter, Jakob, et al.
Pubblicazione: (2024)

Discovery of Decision Synchronization Patterns from Event Logs
di: Kuijpers, Tijmen, et al.
Pubblicazione: (2026)

ParetoQ: Improving Scaling Laws in Extremely Low-bit LLM Quantization
di: Liu, Zechun, et al.
Pubblicazione: (2025)

Quantization-Aware Distillation for NVFP4 Inference Accuracy Recovery
di: Xin, Meng, et al.
Pubblicazione: (2026)

Which Quantization Should I Use? A Unified Evaluation of llama.cpp Quantization on Llama-3.1-8B-Instruct
di: Kurt, Uygar
Pubblicazione: (2026)

AWP: Activation-Aware Weight Pruning and Quantization with Projected Gradient Descent
di: Liu, Jing, et al.
Pubblicazione: (2025)

QPruner: Probabilistic Decision Quantization for Structured Pruning in Large Language Models
di: Zhou, Changhai, et al.
Pubblicazione: (2024)

The Impact of Quantization and Pruning on Deep Reinforcement Learning Models
di: Lu, Heng, et al.
Pubblicazione: (2024)

SpinQuant: LLM quantization with learned rotations
di: Liu, Zechun, et al.
Pubblicazione: (2024)

Structured vs. Unstructured Pruning: An Exponential Gap
di: Ferre', Davide, et al.
Pubblicazione: (2026)

Myosotis: structured computation for attention like layer
di: Egorov, Evgenii, et al.
Pubblicazione: (2025)