Buchumschlag

Efficient Speculative Decoding for Llama at Scale: Challenges and Solutions

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tang, Bangsheng, Fu, Carl Chengyan, Kou, Fei, Sizov, Grigory, Zhang, Haoci, Park, Jason, Liu, Jiawen, You, Jie, Yang, Qirui, Mehta, Sachin, Cai, Shengyong, Wang, Xiaodong, Liu, Xingyu, Li, Yunlu, Zhou, Yanjun, Wei, Wei, Zhao, Zhiwei, Qi, Zixi, Victoria, Adolfo, Ibrahim, Aya, Wasti, Bram, Kim, Changkyu, Haziza, Daniel, Sun, Fei, Delfin, Giancarlo, Guo, Emily, Ouyang, Jialin, Lee, Jaewon, Huang, Jianyu, Reizenstein, Jeremy, Fang, Lu, Zhu, Quinn, Verma, Ria, Mihailescu, Vlad, Guo, Xingwen, Cui, Yan, Hu, Ye, Lee, Yejin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Schreiben Sie den ersten Kommentar!