T-MAN: Enabling End-to-End Low-Bit LLM Inference on NPUs via Unified Table Lookup

Ähnliche Einträge

• LUT-DLA: Lookup Table as Efficient Extreme Low-Bit Deep Learning Accelerator
  von: Li, Guoyu, et al.
  Veröffentlicht: (2025)
• LUT Tensor Core: A Software-Hardware Co-Design for LUT-Based Low-Bit LLM Inference
  von: Mo, Zhiwen, et al.
  Veröffentlicht: (2024)
• TeLLMe v2: An Efficient End-to-End Ternary LLM Prefill and Decode Accelerator with Table-Lookup Matmul on Edge FPGAs
  von: Qiao, Ye, et al.
  Veröffentlicht: (2025)
• TENET: An Efficient Sparsity-Aware LUT-Centric Architecture for Ternary LLM Inference On Edge
  von: Huang, Zhirui, et al.
  Veröffentlicht: (2025)
• SAIL: SRAM-Accelerated LLM Inference System with Lookup-Table-based GEMV
  von: Zhang, Jingyao, et al.
  Veröffentlicht: (2025)