BlockLLM: Multi-tenant Finer-grained Serving for Large Language Models

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Hu, Bodun, Li, Jiamin, Xu, Le, Lee, Myungjin, Jajoo, Akshay, Kim, Geon-Woo, Xu, Hong, Akella, Aditya
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!