APT-LLM: Exploiting Arbitrary-Precision Tensor Core Computing for LLM Acceleration

Ähnliche Einträge

• Efficient Arbitrary Precision Acceleration for Large Language Models on GPU Tensor Cores
  von: Ma, Shaobo, et al.
  Veröffentlicht: (2024)
• AccLLM: Accelerating Long-Context LLM Inference Via Algorithm-Hardware Co-Design
  von: Liang, Yanbiao, et al.
  Veröffentlicht: (2025)
• FastMamba: A High-Speed and Efficient Mamba Accelerator on FPGA with Accurate Quantization
  von: Wang, Aotao, et al.
  Veröffentlicht: (2025)
• An FPGA-Based Reconfigurable Accelerator for Convolution-Transformer Hybrid EfficientViT
  von: Shao, Haikuo, et al.
  Veröffentlicht: (2024)
• Anda: Unlocking Efficient LLM Inference with a Variable-Length Grouped Activation Data Format
  von: Fang, Chao, et al.
  Veröffentlicht: (2024)