WISP: Waste- and Interference-Suppressed Distributed Speculative LLM Serving at the Edge via Dynamic Drafting and SLO-Aware Batching

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Li, Xiangchen, Fan, Jiakun, Wang, Qingyuan, Spatharakis, Dimitrios, Ghafouri, Saeid, Vandierendonck, Hans, John, Deepu, Ji, Bo, Butt, Ali R., Nikolopoulos, Dimitrios S.
Formato:	Preprint
Publicado:	2026
Materias:	Distributed, Parallel, and Cluster Computing Artificial Intelligence C.2.4; D.4.8; D.4.1; F.2.2; I.2.7; D.4.7
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Descripción
Descripción no disponible.

Ejemplares similares