Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
Fuente:
arXiv
Salvato in:
| Autori principali: | Su, Zhengyang, Katsman, Isay, Wang, Yueqi, He, Ruining, Heldt, Lukasz, Keshavan, Raghunandan, Wang, Shao-Chuan, Yi, Xinyang, Gao, Mingyan, Dalal, Onkar, Hong, Lichan, Chi, Ed, Han, Ningren |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Aligning Large Language Models with Recommendation Knowledge
di: Cao, Yuwei, et al.
Pubblicazione: (2024)
di: Cao, Yuwei, et al.
Pubblicazione: (2024)
User Feedback Alignment for LLM-powered Exploration in Large-scale Recommendation Systems
di: Wang, Jianling, et al.
Pubblicazione: (2025)
di: Wang, Jianling, et al.
Pubblicazione: (2025)
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
di: He, Ruining, et al.
Pubblicazione: (2025)
di: He, Ruining, et al.
Pubblicazione: (2025)
Better Generalization with Semantic IDs: A Case Study in Ranking for Recommendations
di: Singh, Anima, et al.
Pubblicazione: (2023)
di: Singh, Anima, et al.
Pubblicazione: (2023)
Shedding Light on Problems with Hyperbolic Graph Learning
di: Katsman, Isay, et al.
Pubblicazione: (2024)
di: Katsman, Isay, et al.
Pubblicazione: (2024)
Balancing Fine-tuning and RAG: A Hybrid Strategy for Dynamic LLM Recommendation Updates
di: Meng, Changping, et al.
Pubblicazione: (2025)
di: Meng, Changping, et al.
Pubblicazione: (2025)
ORBIT: Preserving Foundational Language Capabilities in GenRetrieval via Origin-Regulated Merging
di: Verma, Neha, et al.
Pubblicazione: (2026)
di: Verma, Neha, et al.
Pubblicazione: (2026)
Revisiting the Necessity of Graph Learning and Common Graph Benchmarks
di: Katsman, Isay, et al.
Pubblicazione: (2024)
di: Katsman, Isay, et al.
Pubblicazione: (2024)
LLM-Powered Nuanced Video Attribute Annotation for Enhanced Recommendations
di: Long, Boyuan, et al.
Pubblicazione: (2025)
di: Long, Boyuan, et al.
Pubblicazione: (2025)
Item-centric Exploration for Cold Start Problem
di: Wang, Dong, et al.
Pubblicazione: (2025)
di: Wang, Dong, et al.
Pubblicazione: (2025)
Trie-Aware Transformers for Generative Recommendation
di: Xu, Zhenxiang, et al.
Pubblicazione: (2026)
di: Xu, Zhenxiang, et al.
Pubblicazione: (2026)
Selecting User Histories to Generate LLM Users for Cold-Start Item Recommendation
di: Subbaraman, Nachiket, et al.
Pubblicazione: (2025)
di: Subbaraman, Nachiket, et al.
Pubblicazione: (2025)
Edificio w305 isay weinfeld São paulo 2011
di: Isay Weinfeld
Pubblicazione: (2011)
di: Isay Weinfeld
Pubblicazione: (2011)
Fracture-Driven Single Bubble Grows and Migration Model in Aquatic Muds
di: Katsman, Regina
Pubblicazione: (2025)
di: Katsman, Regina
Pubblicazione: (2025)
The Trie Measure, Revisited
di: Alanko, Jarno N., et al.
Pubblicazione: (2025)
di: Alanko, Jarno N., et al.
Pubblicazione: (2025)
Efficient Beam Search for Large Language Models Using Trie-Based Decoding
di: Chan, Brian J, et al.
Pubblicazione: (2025)
di: Chan, Brian J, et al.
Pubblicazione: (2025)
LLMs for User Interest Exploration in Large-scale Recommendation Systems
di: Wang, Jianling, et al.
Pubblicazione: (2024)
di: Wang, Jianling, et al.
Pubblicazione: (2024)
Zero-shot Context Biasing with Trie-based Decoding using Synthetic Multi-Pronunciation
di: Liu, Changsong, et al.
Pubblicazione: (2025)
di: Liu, Changsong, et al.
Pubblicazione: (2025)
DocQAC: Adaptive Trie-Guided Decoding for Effective In-Document Query Auto-Completion
di: Mehta, Rahul, et al.
Pubblicazione: (2026)
di: Mehta, Rahul, et al.
Pubblicazione: (2026)
Una revisión al campo literario chihuahuense de la década de los 80’s: Revista Palabras sin arrugas y suplemento “Cosecha”
di: Osmar Isay Urías Flores
Pubblicazione: (2025)
di: Osmar Isay Urías Flores
Pubblicazione: (2025)
STAR: A Simple Training-free Approach for Recommendations using Large Language Models
di: Lee, Dong-Ho, et al.
Pubblicazione: (2024)
di: Lee, Dong-Ho, et al.
Pubblicazione: (2024)
A Lock-free Binary Trie
di: Ko, Jeremy
Pubblicazione: (2024)
di: Ko, Jeremy
Pubblicazione: (2024)
HaS: Accelerating RAG through Homology-Aware Speculative Retrieval
di: Peng, Peng, et al.
Pubblicazione: (2026)
di: Peng, Peng, et al.
Pubblicazione: (2026)
Constrained Auto-Regressive Decoding Constrains Generative Retrieval
di: Wu, Shiguang, et al.
Pubblicazione: (2025)
di: Wu, Shiguang, et al.
Pubblicazione: (2025)
Sur les modalités de l'empoissonnement en anguilles du lac de Tunis.
di: Heldt, Henri, et al.
Pubblicazione: (1930)
di: Heldt, Henri, et al.
Pubblicazione: (1930)
Premières captures de civelles dans le lac de Tunis.
di: Heldt, Henri, et al.
Pubblicazione: (1928)
di: Heldt, Henri, et al.
Pubblicazione: (1928)
Les civelles du lac de Tunis: considérations sur les époques de présence, la taille et le poids.
di: Heldt, H., et al.
Pubblicazione: (1929)
di: Heldt, H., et al.
Pubblicazione: (1929)
Les crustacés comestibles des mers Tunisiennes et leur pêche.
di: Heldt, Henri, et al.
Pubblicazione: (1954)
di: Heldt, Henri, et al.
Pubblicazione: (1954)
Des langoustines (Nephrops norvegicus Leach) dans les mers tunisiennes.
di: Heldt, Henri, et al.
Pubblicazione: (1931)
di: Heldt, Henri, et al.
Pubblicazione: (1931)
Self-Evolving Recommendation System: End-To-End Autonomous Model Optimization With LLM Agents
di: Wang, Haochen, et al.
Pubblicazione: (2026)
di: Wang, Haochen, et al.
Pubblicazione: (2026)
Construction of the Complete Set of Maximally Entangled Basis Vectors for N-Qubit Systems
di: Hwang, Chi-Chuan
Pubblicazione: (2025)
di: Hwang, Chi-Chuan
Pubblicazione: (2025)
Unified Embedding: Battle-Tested Feature Representations for Web-Scale ML Systems
di: Coleman, Benjamin, et al.
Pubblicazione: (2023)
di: Coleman, Benjamin, et al.
Pubblicazione: (2023)
Accelerating Constrained Decoding with Token Space Compression
di: Sullivan, Michael, et al.
Pubblicazione: (2026)
di: Sullivan, Michael, et al.
Pubblicazione: (2026)
GREAT: Guiding Query Generation with a Trie for Recommending Related Search about Video at Kuaishou
di: Shao, Ninglu, et al.
Pubblicazione: (2025)
di: Shao, Ninglu, et al.
Pubblicazione: (2025)
Leveraging LLM Reasoning Enhances Personalized Recommender Systems
di: Tsai, Alicia Y., et al.
Pubblicazione: (2024)
di: Tsai, Alicia Y., et al.
Pubblicazione: (2024)
A Conceptual Framework For Trie-Augmented Neural Networks (TANNS)
di: Adefemi, Temitayo
Pubblicazione: (2024)
di: Adefemi, Temitayo
Pubblicazione: (2024)
Music and Levels of Narration in Film
di: Heldt, Guido
Pubblicazione: (2017)
di: Heldt, Guido
Pubblicazione: (2017)
Intensivere Drittwirkung
di: Heldt, Amélie
Pubblicazione: (2023)
di: Heldt, Amélie
Pubblicazione: (2023)
Nouvelles expériences pour le repérage des bans de poissons par hydravion et ballon captif remorqué.
di: Heldt, H.
Pubblicazione: (1931)
di: Heldt, H.
Pubblicazione: (1931)
Le Thon Rouge Thunnus thynnus (L.): Mise à jour de nos connaissances sur ce sujet
di: Heldt, H.
Pubblicazione: (1927)
di: Heldt, H.
Pubblicazione: (1927)
Documenti analoghi
-
Aligning Large Language Models with Recommendation Knowledge
di: Cao, Yuwei, et al.
Pubblicazione: (2024) -
User Feedback Alignment for LLM-powered Exploration in Large-scale Recommendation Systems
di: Wang, Jianling, et al.
Pubblicazione: (2025) -
PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations
di: He, Ruining, et al.
Pubblicazione: (2025) -
Better Generalization with Semantic IDs: A Case Study in Ranking for Recommendations
di: Singh, Anima, et al.
Pubblicazione: (2023) -
Shedding Light on Problems with Hyperbolic Graph Learning
di: Katsman, Isay, et al.
Pubblicazione: (2024)