Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Su, Zhengyang, Katsman, Isay, Wang, Yueqi, He, Ruining, Heldt, Lukasz, Keshavan, Raghunandan, Wang, Shao-Chuan, Yi, Xinyang, Gao, Mingyan, Dalal, Onkar, Hong, Lichan, Chi, Ed, Han, Ningren
Formato: Preprint
Publicado: 2026
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!