InferCept: Efficient Intercept Support for Augmented Large Language Model Inference

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Abhyankar, Reyna, He, Zijian, Srivatsa, Vikranth, Zhang, Hao, Zhang, Yiying
Natura: Preprint
Pubblicazione: 2024
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!