Cambricon-LLM: A Chiplet-Based Hybrid Architecture for On-Device Inference of 70B LLM

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yu, Zhongkai, Liang, Shengwen, Ma, Tianyun, Cai, Yunke, Nan, Ziyuan, Huang, Di, Song, Xinkai, Hao, Yifan, Zhang, Jie, Zhi, Tian, Zhao, Yongwei, Du, Zidong, Hu, Xing, Guo, Qi, Chen, Tianshi
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Hardware Architecture
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2409.15654