On Evaluating Performance of LLM Inference Serving Systems

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Agrawal, Amey, Kedia, Nitin, Agarwal, Anmol, Mohan, Jayashree, Kwatra, Nipun, Kundu, Souvik, Ramjee, Ramachandran, Tumanov, Alexey
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!