Efficient LLM Inference over Heterogeneous Edge Networks with Speculative Decoding

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Zhu, Bingjie, Chen, Zhixiong, Zhao, Liqiang, Shin, Hyundong, Nallanathan, Arumugam
Formato: Preprint
Publicado: 2025
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!