CoreInfer: Accelerating Large Language Model Inference with Semantics-Inspired Adaptive Sparse Activation

Fuente: arXiv

Guardado en:

Detalles Bibliográficos
Autores principales:	Wang, Qinsi, Vahidian, Saeed, Ye, Hancheng, Gu, Jianyang, Zhang, Jianyi, Chen, Yiran
Formato:	Preprint
Publicado:	2024
Materias:	Machine Learning Computation and Language
Acceso en línea:	Acceder al recurso
Etiquetas:	Agregar Etiqueta Sin Etiquetas, Sea el primero en etiquetar este registro!

Internet

https://arxiv.org/abs/2410.18311