Efficient LLM Inference over Heterogeneous Edge Networks with Speculative Decoding

Fuente: arXiv

Enregistré dans:

Détails bibliographiques
Auteurs principaux:	Zhu, Bingjie, Chen, Zhixiong, Zhao, Liqiang, Shin, Hyundong, Nallanathan, Arumugam
Format:	Preprint
Publié:	2025
Sujets:	Systems and Control
Accès en ligne:	Acceder al recurso
Tags:	Ajouter un tag Pas de tags, Soyez le premier à ajouter un tag!

Internet

https://arxiv.org/abs/2510.11331