Efficient LLM Inference over Heterogeneous Edge Networks with Speculative Decoding

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Zhu, Bingjie, Chen, Zhixiong, Zhao, Liqiang, Shin, Hyundong, Nallanathan, Arumugam
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!