DeepServe: Serverless Large Language Model Serving at Scale

Fuente: arXiv

Enregistré dans:

Détails bibliographiques
Auteurs principaux:	Hu, Junhao, Xu, Jiang, Liu, Zhixia, He, Yulong, Chen, Yuetao, Xu, Hao, Liu, Jiang, Meng, Jie, Zhang, Baoquan, Wan, Shining, Dan, Gengyuan, Dong, Zhiyu, Ren, Zhihao, Liu, Changhong, Xie, Tao, Lin, Dayun, Zhang, Qin, Yu, Yue, Feng, Hao, Chen, Xusheng, Shan, Yizhou
Format:	Preprint
Publié:	2025
Sujets:	Distributed, Parallel, and Cluster Computing
Accès en ligne:	Acceder al recurso
Tags:	Ajouter un tag Pas de tags, Soyez le premier à ajouter un tag!

Internet

https://arxiv.org/abs/2501.14417