Copertina

TurboQuant on Quantized Models: Solving Compound Quantization Error with Pre-RoPE Compression and KV Compaction

Fuente: Zenodo

Salvato in:

Dettagli Bibliografici
Autore principale:	Gökyıldız, Onur
Natura:	Recurso digital
Lingua:	inglese
Pubblicazione:	Zenodo 2026
Soggetti:	KV cache compression compound quantization error Pre-RoPE quantization KV compaction TurboQuant Rust GGUF Lloyd-Max codebook Walsh-Hadamard transform SIMD
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Differentially Private KV-Cache Transmission for Split LLM Inference
di: Yu, Renjie
Pubblicazione: (2026)

Pre-registered Falsification of Timing-Based Divergence Decomposition in KV-Cache Compression
di: RIGAUD, Régis
Pubblicazione: (2026)

Companion artefact for "Distributed Serving Architectures for Large Language Model Inference: A Taxonomy, Quantitative Models, and Practitioner's Decision Framework"
di: Chukkapalli, Divya, et al.
Pubblicazione: (2026)

Positive B-splines used as Mappings in the Probabilistic Quantizer
di: Juan-Pablo Hoyos-Sánchez
Pubblicazione: (2024)

Optimal Image Quantization, Perception and the Median Cut Algorithm
di: Jonas Mota Gomes Cicero
Pubblicazione: (2001)

Toward Multi-Trit Quantization for Large Language Models: A Theoretical Framework for Balanced N-Trit Weights, Trit-Plane Generalization, and Mixed-Layer Precision
di: Heiden, Jeff McGillis
Pubblicazione: (2026)

WKB quantization for completely bound quadratic dissipative systems
di: G. González
Pubblicazione: (2011)

An Approximate Closed-Form Expression for Calculating Performance of Floating-Point Format for the Laplacian Source
di: Peric, Zoran, et al.
Pubblicazione: (2025)

Optimization Techniques for Stabilizing Spacecraft Attitude via Quantization Methods
di: Emiko Nakamura, et al.
Pubblicazione: (2021)

Law 0340: LHC 884 GeV Diffractive Minimum Verification
di: Atmael
Pubblicazione: (2025)

Soliton operators in the quantum equivalence of the CP1 and O(3) − σ models
di: J. Stephany
Pubblicazione: (2018)

PearsonZero/kodak-pcd0992-directional-perturbation-compression-response: Directional Perturbation v1.0 — Kodak PCD0992
di: Jasmine Baetzel
Pubblicazione: (2026)

A Computational Architecture for Inference of a Quantized-CNN for Detecting Atrial Fibrillation
di: Andrés F. Jaramillo Rueda
Pubblicazione: (2020)

The Casimir effect
di: Nicola Fabiano
Pubblicazione: (2023)

Behavior of quantization noise for sinusoidal signals. A revision
di: P. R. Pérez-Alcázar
Pubblicazione: (2009)

Hardware Design of the Discrete Wavelet Transform: an Analysis of Complexity, Accuracy and Operating Frequency
di: Dora M. Ballesteros L.
Pubblicazione: (2016)

Gupta-Bleuler quantization for massive and massless free vector fields
di: M. Dehghani
Pubblicazione: (2009)

On Special Requantization of a Black Hole
di: S. C. Ulhoa
Pubblicazione: (2011)

DTA (Dissipative Time Algebra) B; Algebraic Realization of Time Quantization
di: ZHOU, ziqing, et al.
Pubblicazione: (2025)

4-bit Batched GEMM on Commodity Hardware: Roofline Analysis, big.LITTLE Scheduling, and Batched Arithmetic Intensity Scaling to 243 GMACs/s on a Commercial Mobile SoC.
di: Pirolo, Andrés Sebastián
Pubblicazione: (2026)

Symplectic structures and dynamical symmetry groups
di: G. F. Torres del Castillo
Pubblicazione: (2004)

Water temperature IBT profiles from cruise U90KV87073I_1987
di: Golubev, Valery A, et al.
Pubblicazione: (2006)

Performance Analysis of Dual Unipolar/Bipolar Spectral Code in Optical CDMA Systems
di: C.T. Yen
Pubblicazione: (2013)

Physical Variables of d = 3 Maxwell-Chern-Simons Theory by Symplectic Projector Method
di: J. A. Helayel-Neto
Pubblicazione: (2006)

Structure Before Light: Atomic Quantization as Constraint-Selected Coherence
di: Doumbouya, Lisa
Pubblicazione: (2025)

超流以太统一理论框架——从经典连续介质力学到量子现象的统一
di: zhang, yongxian
Pubblicazione: (2026)

Deformation quantization for fermionic fields
di: I. Galaviz
Pubblicazione: (2007)

Resilient H-infinity filtering for networked nonlinear Markovian jump systems with randomly occurring distributed delay and sensor saturation
di: Venkatesan Nithya
Pubblicazione: (2021)

Temporal Quantization of Coherence in Superconducting Qubits: Tau-Phase Anomaly Data Package
di: Davis, Devin Phillip
Pubblicazione: (2025)

Experimental Data (Including Hardware Variants) Measuring Runtime for Trace Assisted Caching
di: Rainer, Jonathan
Pubblicazione: (2020)

Turbo chrysostomus Linnaeus, 1758, spec. nov.
di: Linnaeus, Carolus
Pubblicazione: (1758)

Turbo acutangulus Linnaeus, 1758, spec. nov.
di: Linnaeus, Carolus
Pubblicazione: (1758)

Utilizing Block Size Variability to Enhance Instruction Fetch Rate
di: AZAM BEG
Pubblicazione: (2007)

Magnetic susceptibility of sediment core OCE2022-KV02-GC
di: Devendra, Dhanushka, et al.
Pubblicazione: (2025)

Training AI Agents to Communicate Safely: Reinforcement Learning for Covert Channel Prevention in Inter-Agent Protocols
di: Maio, Anthony D.
Pubblicazione: (2026)

Emergent Riemannian Geometry from Constrained Quantum Systems: Mathematical Framework with Explicit Constants and Dimensional Consistency + references
di: Karadağ, Mehmet Ali
Pubblicazione: (2025)

Sand of sediment core OCE2022-KV02-GC
di: Devendra, Dhanushka, et al.
Pubblicazione: (2025)

Servidor Proxy Caché: Comprensión y asimilación tecnológica
di: Carlos E. Gómez
Pubblicazione: (2012)

Symbolic sensitivity analysis of the new second-order iir structure
di: G. Jovanovic Dolecek
Pubblicazione: (2008)

LA INTERPRETACIÓN DE SHARON ANN LLOYD DE LA TEORÍA POLÍTICA DE THOMAS HOBBES
di: Oswaldo Plata Pineda
Pubblicazione: (2015)