Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Su, Zhengyang, Katsman, Isay, Wang, Yueqi, He, Ruining, Heldt, Lukasz, Keshavan, Raghunandan, Wang, Shao-Chuan, Yi, Xinyang, Gao, Mingyan, Dalal, Onkar, Hong, Lichan, Chi, Ed, Han, Ningren
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Information Retrieval Computation and Language Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Beschreibung
Keine Beschreibung verfügbar.

Ähnliche Einträge