SPIRe: Boosting LLM Inference Throughput with Speculative Decoding

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Neelam, Sanjit, Heinlein, Daniel, Cvicek, Vaclav, Mishra, Akshay, Pope, Reiner
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!