Speculative Pipeline Decoding: Higher-Accruacy and Zero-Bubble Speculation via Pipeline Parallelism

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Yu, Yijiong, Wang, Huazheng, Yuan, Shuai, Ren, Ruilong, Pei, Ji
Format: Preprint
Publié: 2026
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!