Edge Intelligence Optimization for Large Language Model Inference with Batching and Quantization

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Zhang, Xinyuan, Liu, Jiang, Xiong, Zehui, Huang, Yudong, Xie, Gaochang, Zhang, Ran
Formato:	Preprint
Publicado:	2024
Materias:	Machine Learning Artificial Intelligence Networking and Internet Architecture
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Descripción
Descripción no disponible.

Ejemplares similares