GSQ: Highly-Accurate Low-Precision Scalar Quantization for LLMs via Gumbel-Softmax Sampling

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Dadgarnia, Alireza, Tabesh, Soroush, Nikdan, Mahdi, Helcig, Michael, Kurtic, Eldar, Kleinegger, Maximilian, Alistarh, Dan
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Computation and Language Machine Learning
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Accesso online

https://arxiv.org/abs/2604.18556