Bit-by-Bit: Progressive QAT Strategy with Outlier Channel Splitting for Stable Low-Bit LLMs

Ähnliche Einträge

• BTC-LLM: Efficient Sub-1-Bit LLM Quantization via Learnable Transformation and Binary Codebook
  von: Gu, Hao, et al.
  Veröffentlicht: (2025)
• IndexMem: Learned KV-Cache Eviction with Latent Memory for Long-Context LLM Inference
  von: Yang, Xintong, et al.
  Veröffentlicht: (2026)
• QaRL: Rollout-Aligned Quantization-Aware RL for Fast and Stable Training under Training--Inference Mismatch
  von: Gu, Hao, et al.
  Veröffentlicht: (2026)
• Sub-MoE: Efficient Mixture-of-Expert LLMs Compression via Subspace Expert Merging
  von: Li, Lujun, et al.
  Veröffentlicht: (2025)
• 1-Bit Wonder: Improving QAT Performance in the Low-Bit Regime through K-Means Quantization
  von: Maskey, Sohir, et al.
  Veröffentlicht: (2026)