LAPS: A Length-Aware-Prefill LLM Serving System

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	She, Jianshu, Li, Zonghang, Du, Hongchao, Wu, Shangyu, Zheng, Wenhao, Xing, Eric, Liu, Zhengzhong, Yao, Huaxiu, Xue, Jason, Ho, Qirong
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Distributed, Parallel, and Cluster Computing Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Schreiben Sie den ersten Kommentar!

Ähnliche Einträge