Beyond Tokens: Semantic-Aware Speculative Decoding for Efficient Inference by Probing Internal States

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Dong, Ximing, Wang, Shaowei, Lin, Dayi, Chen, Boyuan, Hassan, Ahmed E.
Formato:	Preprint
Publicado:	2026
Materias:	Computation and Language Performance
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2602.03708