Seesaw: High-throughput LLM Inference via Model Re-sharding

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Su, Qidong, Zhao, Wei, Li, Xin, Andoorveedu, Muralidhar, Jiang, Chenhao, Zhu, Zhanda, Song, Kevin, Giannoula, Christina, Pekhimenko, Gennady
Format: Preprint
Publié: 2025
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!