TPLA: Tensor Parallel Latent Attention for Efficient Disaggregated Prefill and Decode Inference

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Tang, Xiaojuan, Meng, Fanxu, Tang, Pingzhi, Wang, Yuxuan, Yin, Di, Sun, Xing, Zhang, Muhan
Format: Preprint
Publié: 2025
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!