Cascade Speculative Drafting for Even Faster LLM Inference

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Chen, Ziyi, Yang, Xiaocong, Lin, Jiacheng, Sun, Chenkai, Chang, Kevin Chen-Chuan, Huang, Jie
Natura: Preprint
Pubblicazione: 2023
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!