Blink: CPU-Free LLM Inference by Delegating the Serving Stack to GPU and SmartNIC

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Siavashi, Mohammad, Scazzariello, Mariano, Maguire Jr., Gerald Q., Kostić, Dejan, Chiesa, Marco
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Distributed, Parallel, and Cluster Computing Machine Learning Operating Systems Performance Software Engineering
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Schreiben Sie den ersten Kommentar!

Ähnliche Einträge