Flash Communication: Reducing Tensor Parallelization Bottleneck for Fast Large Language Model Inference

Fuente: arXiv
Guardado en:
Detalles Bibliográficos
Autores principales: Li, Qingyuan, Zhang, Bo, Ye, Liang, Zhang, Yifan, Wu, Wei, Sun, Yerui, Ma, Lin, Xie, Yuchen
Formato: Preprint
Publicado: 2024
Materias:
Acceso en línea:
Etiquetas: Agregar Etiqueta
Sin Etiquetas, Sea el primero en etiquetar este registro!