AIBrix: Towards Scalable, Cost-Effective Large Language Model Inference Infrastructure

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	The AIBrix Team, Shan, Jiaxin, Gupta, Varun, Xu, Le, Shi, Haiyang, Zhang, Jingyuan, Wang, Ning, Xu, Linhui, Kang, Rong, Liu, Tongping, Zhang, Yifei, Zhu, Yiqing, Jin, Shuowei, Lim, Gangmuk, Chen, Binbin, Chen, Zuzhi, Liu, Xiao, Chen, Xin, Yin, Kante, Chung, Chak-Pong, Jiang, Chenyu, Lu, Yicheng, Chen, Jianjun, Lin, Caixue, Xiang, Wu, Shi, Rui, Xie, Liguang
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Distributed, Parallel, and Cluster Computing Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2504.03648