A Systematic Characterization of LLM Inference on GPUs

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Wang, Haonan, Xiao, Xuxin, Yan, Mingyu, Zhu, Zhuoyuan, Han, Dengke, Wang, Duo, Li, Wenming, Ye, Xiaochun, Hu, Cunchen, Chen, Hongyang, Sun, Guangyu
Format: Preprint
Veröffentlicht: 2025
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!