You Had One Job: Per-Task Quantization Using LLMs' Hidden Representations

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: LeVi, Amit, Lapid, Raz, Himelstein, Rom, Baskin, Chaim, Ziv, Ravid Shwartz, Mendelson, Avi
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!