AnchorTP: Resilient LLM Inference with State-Preserving Elastic Tensor Parallelism

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Xu, Wendong, Chen, Chujie, Xiao, He, Li, Kuan, Xiong, Jing, Zhang, Chen, Zhou, Wenyong, Tao, Chaofan, Bai, Yang, Yu, Bei, Wong, Ngai
Format: Preprint
Publié: 2025
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!