FlexQ: Efficient Post-training INT6 Quantization for LLM Serving via Algorithm-System Co-Design

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Zhang, Hao, Jia, Aining, Bu, Weifeng, Cai, Yushu, Sheng, Kai, Chen, Hao, He, Xin
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!