Beyond Tokens: Semantic-Aware Speculative Decoding for Efficient Inference by Probing Internal States

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Dong, Ximing, Wang, Shaowei, Lin, Dayi, Chen, Boyuan, Hassan, Ahmed E.
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!