AdaSpec: Adaptive Speculative Decoding for Fast, SLO-Aware Large Language Model Serving

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Huang, Kaiyu, Wu, Hao, Shi, Zhubo, Zou, Han, Yu, Minchen, Shi, Qingjiang
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!