SmoothQuant: Accurate and Efficient Post-Training Quantization for Large Language Models

Ähnliche Einträge

• Efficient Streaming Language Models with Attention Sinks
  von: Xiao, Guangxuan, et al.
  Veröffentlicht: (2023)
• ParoQuant: Pairwise Rotation Quantization for Efficient Reasoning LLM Inference
  von: Liang, Yesheng, et al.
  Veröffentlicht: (2025)
• OmniQuant: Omnidirectionally Calibrated Quantization for Large Language Models
  von: Shao, Wenqi, et al.
  Veröffentlicht: (2023)
• SliderQuant: Accurate Post-Training Quantization for LLMs
  von: Wang, Shigeng, et al.
  Veröffentlicht: (2026)
• Four Over Six: More Accurate NVFP4 Quantization with Adaptive Block Scaling
  von: Cook, Jack, et al.
  Veröffentlicht: (2025)