What Makes Quantization for Large Language Models Hard? An Empirical Study from the Lens of Perturbation

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Gong, Zhuocheng, Liu, Jiahao, Wang, Jingang, Cai, Xunliang, Zhao, Dongyan, Yan, Rui
Formato:	Preprint
Publicado:	2024
Materias:	Machine Learning Artificial Intelligence
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2403.06408