APTQ: Attention-aware Post-Training Mixed-Precision Quantization for Large Language Models

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Guan, Ziyi, Huang, Hantao, Su, Yupeng, Huang, Hong, Wong, Ngai, Yu, Hao
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!