LUT Tensor Core: A Software-Hardware Co-Design for LUT-Based Low-Bit LLM Inference

Ähnliche Einträge

• TENET: An Efficient Sparsity-Aware LUT-Centric Architecture for Ternary LLM Inference On Edge
  von: Huang, Zhirui, et al.
  Veröffentlicht: (2025)
• LUT-DLA: Lookup Table as Efficient Extreme Low-Bit Deep Learning Accelerator
  von: Li, Guoyu, et al.
  Veröffentlicht: (2025)
• BitDecoding: Unlocking Tensor Cores for Long-Context LLMs with Low-Bit KV Cache
  von: Du, Dayou, et al.
  Veröffentlicht: (2025)
• PolyLUT-Add: FPGA-based LUT Inference with Wide Inputs
  von: Lou, Binglei, et al.
  Veröffentlicht: (2024)
• T-MAN: Enabling End-to-End Low-Bit LLM Inference on NPUs via Unified Table Lookup
  von: Wei, Jianyu, et al.
  Veröffentlicht: (2025)