Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Su, Zhengyang, Katsman, Isay, Wang, Yueqi, He, Ruining, Heldt, Lukasz, Keshavan, Raghunandan, Wang, Shao-Chuan, Yi, Xinyang, Gao, Mingyan, Dalal, Onkar, Hong, Lichan, Chi, Ed, Han, Ningren
Natura: Preprint
Pubblicazione: 2026
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi