SIMPLE: Disaggregating Sampling from GPU Inference into a Decision Plane for Faster Distributed LLM Serving

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Zhao, Bohan, Cao, Zane, He, Yongchao
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!