HybridServe: Efficient Serving of Large AI Models with Confidence-Based Cascade Routing

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Xue, Leyang, Fu, Yao, Mai, Luo, Marina, Mahesh K.
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!