KLLM: Fast LLM Inference with K-Means Quantization

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Wu, Xueying, Zhou, Baijun, Gao, Zhihui, Fu, Yuzhe, Zheng, Qilin, He, Yintao, Li, Hai
Formato:	Preprint
Publicado:	2025
Materias:	Machine Learning Hardware Architecture
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2507.23035