IntactKV: Improving Large Language Model Quantization by Keeping Pivot Tokens Intact

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Liu, Ruikang, Bai, Haoli, Lin, Haokun, Li, Yuening, Gao, Han, Xu, Zhengzhuo, Hou, Lu, Yao, Jun, Yuan, Chun
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!