LUT Tensor Core: A Software-Hardware Co-Design for LUT-Based Low-Bit LLM Inference

Fuente: arXiv
Enregistré dans:
Détails bibliographiques
Auteurs principaux: Mo, Zhiwen, Wang, Lei, Wei, Jianyu, Zeng, Zhichen, Cao, Shijie, Ma, Lingxiao, Jing, Naifeng, Cao, Ting, Xue, Jilong, Yang, Fan, Yang, Mao
Format: Preprint
Publié: 2024
Sujets:
Accès en ligne:
Tags: Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!