AIBrix: Towards Scalable, Cost-Effective Large Language Model Inference Infrastructure

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: The AIBrix Team, Shan, Jiaxin, Gupta, Varun, Xu, Le, Shi, Haiyang, Zhang, Jingyuan, Wang, Ning, Xu, Linhui, Kang, Rong, Liu, Tongping, Zhang, Yifei, Zhu, Yiqing, Jin, Shuowei, Lim, Gangmuk, Chen, Binbin, Chen, Zuzhi, Liu, Xiao, Chen, Xin, Yin, Kante, Chung, Chak-Pong, Jiang, Chenyu, Lu, Yicheng, Chen, Jianjun, Lin, Caixue, Xiang, Wu, Shi, Rui, Xie, Liguang
Format: Preprint
Publié: 2025
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!