TD-Pipe: Temporally-Disaggregated Pipeline Parallelism Architecture for High-Throughput LLM Inference

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Zhang, Hongbin, Wei, Taosheng, Zheng, Zhenyi, Du, Jiangsu, Chen, Zhiguang, Lu, Yutong
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!