eLLM: Elastic Memory Management Framework for Efficient LLM Serving

Fuente: arXiv

Enregistré dans:

Détails bibliographiques
Auteurs principaux:	Xu, Jiale, Zhang, Rui, Xiong, Yi, Guo, Cong, Liu, Zihan, Zhou, Yangjie, Hu, Weiming, Wu, Hao, Shao, Changxu, Wang, Ziqing, Yuan, Yongjie, Zhao, Junping, Guo, Minyi, Leng, Jingwen
Format:	Preprint
Publié:	2025
Sujets:	Distributed, Parallel, and Cluster Computing
Accès en ligne:	Acceder al recurso
Tags:	Ajouter un tag Pas de tags, Soyez le premier à ajouter un tag!

Internet

https://arxiv.org/abs/2506.15155