True 4-Bit Quantized Convolutional Neural Network Training on CPU: Achieving Full-Precision Parity
Fuente:
arXiv
Enregistré dans:
| Auteur principal: | Tathe, Shivnath |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
LACE: Loss-Adaptive Capacity Expansion for Continual Learning
par: Tathe, Shivnath
Publié: (2026)
par: Tathe, Shivnath
Publié: (2026)
DyBit: Dynamic Bit-Precision Numbers for Efficient Quantized Neural Network Inference
par: Zhou, Jiajun, et autres
Publié: (2023)
par: Zhou, Jiajun, et autres
Publié: (2023)
SONIQ: System-Optimized Noise-Injected Ultra-Low-Precision Quantization with Full-Precision Parity
par: Zhou, Cyrus, et autres
Publié: (2023)
par: Zhou, Cyrus, et autres
Publié: (2023)
Improving Quantization-aware Training of Low-Precision Network via Block Replacement on Full-Precision Counterpart
par: Yu, Chengting, et autres
Publié: (2024)
par: Yu, Chengting, et autres
Publié: (2024)
Attn-QAT: 4-Bit Attention With Quantization-Aware Training
par: Zhang, Peiyuan, et autres
Publié: (2026)
par: Zhang, Peiyuan, et autres
Publié: (2026)
ECO: Quantized Training without Full-Precision Master Weights
par: Nikdan, Mahdi, et autres
Publié: (2026)
par: Nikdan, Mahdi, et autres
Publié: (2026)
BitSnap: Checkpoint Sparsification and Quantization in LLM Training
par: Peng, Yanxin, et autres
Publié: (2025)
par: Peng, Yanxin, et autres
Publié: (2025)
Quantization Variation: A New Perspective on Training Transformers with Low-Bit Precision
par: Huang, Xijie, et autres
Publié: (2023)
par: Huang, Xijie, et autres
Publié: (2023)
Efficient Mixed Precision Quantization in Graph Neural Networks
par: Moustafa, Samir, et autres
Publié: (2025)
par: Moustafa, Samir, et autres
Publié: (2025)
SplitQuant: Layer Splitting for Low-Bit Neural Network Quantization
par: Song, Jaewoo, et autres
Publié: (2025)
par: Song, Jaewoo, et autres
Publié: (2025)
Multiscale Training of Convolutional Neural Networks
par: Ahamed, Shadab, et autres
Publié: (2025)
par: Ahamed, Shadab, et autres
Publié: (2025)
Where and How to Enhance: Discovering Bit-Width Contribution for Mixed Precision Quantization
par: Kang, Haidong, et autres
Publié: (2025)
par: Kang, Haidong, et autres
Publié: (2025)
LoRAQuant: Mixed-Precision Quantization of LoRA to Ultra-Low Bits
par: Mirzaei, Amir Reza, et autres
Publié: (2025)
par: Mirzaei, Amir Reza, et autres
Publié: (2025)
TruncQuant: Truncation-Ready Quantization for DNNs with Flexible Weight Bit Precision
par: Kim, Jinhee, et autres
Publié: (2025)
par: Kim, Jinhee, et autres
Publié: (2025)
Verification of Bit-Flip Attacks against Quantized Neural Networks
par: Zhang, Yedi, et autres
Publié: (2025)
par: Zhang, Yedi, et autres
Publié: (2025)
Quantized Convolutional Neural Networks Through the Lens of Partial Differential Equations
par: Ben-Yair, Ido, et autres
Publié: (2021)
par: Ben-Yair, Ido, et autres
Publié: (2021)
CLAQ: Pushing the Limits of Low-Bit Post-Training Quantization for LLMs
par: Wang, Haoyu, et autres
Publié: (2024)
par: Wang, Haoyu, et autres
Publié: (2024)
AdaQAT: Adaptive Bit-Width Quantization-Aware Training
par: Gernigon, Cédric, et autres
Publié: (2024)
par: Gernigon, Cédric, et autres
Publié: (2024)
Gradient-Free Training of Quantized Neural Networks
par: Cohen, Noa, et autres
Publié: (2024)
par: Cohen, Noa, et autres
Publié: (2024)
Hardness of Learning Fixed Parities with Neural Networks
par: Shoshani, Itamar, et autres
Publié: (2025)
par: Shoshani, Itamar, et autres
Publié: (2025)
Every Bit Counts: A Theoretical Study of Precision-Expressivity Tradeoffs in Quantized Transformers
par: Chakrabarti, Sayak, et autres
Publié: (2026)
par: Chakrabarti, Sayak, et autres
Publié: (2026)
Bits for Privacy: Evaluating Post-Training Quantization via Membership Inference
par: Zhang, Chenxiang, et autres
Publié: (2025)
par: Zhang, Chenxiang, et autres
Publié: (2025)
HBVLA: Pushing 1-Bit Post-Training Quantization for Vision-Language-Action Models
par: Yan, Xin, et autres
Publié: (2026)
par: Yan, Xin, et autres
Publié: (2026)
Outlier-Safe Pre-Training for Robust 4-Bit Quantization of Large Language Models
par: Park, Jungwoo, et autres
Publié: (2025)
par: Park, Jungwoo, et autres
Publié: (2025)
TesseraQ: Ultra Low-Bit LLM Post-Training Quantization with Block Reconstruction
par: Li, Yuhang, et autres
Publié: (2024)
par: Li, Yuhang, et autres
Publié: (2024)
Low-Bit Quantization Favors Undertrained LLMs: Scaling Laws for Quantized LLMs with 100T Training Tokens
par: Ouyang, Xu, et autres
Publié: (2024)
par: Ouyang, Xu, et autres
Publié: (2024)
Outlier-Aware Training for Low-Bit Quantization of Structural Re-Parameterized Networks
par: Niu, Muqun, et autres
Publié: (2024)
par: Niu, Muqun, et autres
Publié: (2024)
NoProp: Training Neural Networks without Full Back-propagation or Full Forward-propagation
par: Li, Qinyu, et autres
Publié: (2025)
par: Li, Qinyu, et autres
Publié: (2025)
FAMES: Fast Approximate Multiplier Substitution for Mixed-Precision Quantized DNNs--Down to 2 Bits!
par: Ren, Yi, et autres
Publié: (2024)
par: Ren, Yi, et autres
Publié: (2024)
SDP4Bit: Toward 4-bit Communication Quantization in Sharded Data Parallelism for LLM Training
par: Jia, Jinda, et autres
Publié: (2024)
par: Jia, Jinda, et autres
Publié: (2024)
Joint Pruning and Channel-wise Mixed-Precision Quantization for Efficient Deep Neural Networks
par: Motetti, Beatrice Alessandra, et autres
Publié: (2024)
par: Motetti, Beatrice Alessandra, et autres
Publié: (2024)
Robust Ultra Low-Bit Post-Training Quantization via Stable Diagonal Curvature Estimate
par: Kim, Jaemin, et autres
Publié: (2026)
par: Kim, Jaemin, et autres
Publié: (2026)
MSQ: Memory-Efficient Bit Sparsification Quantization
par: Han, Seokho, et autres
Publié: (2025)
par: Han, Seokho, et autres
Publié: (2025)
One-Bit Quantization for Random Features Models
par: Akhtiamov, Danil, et autres
Publié: (2025)
par: Akhtiamov, Danil, et autres
Publié: (2025)
On-Chip Hardware-Aware Quantization for Mixed Precision Neural Networks
par: Huang, Wei, et autres
Publié: (2023)
par: Huang, Wei, et autres
Publié: (2023)
Understanding the Difficulty of Low-Precision Post-Training Quantization for LLMs
par: Xu, Zifei, et autres
Publié: (2024)
par: Xu, Zifei, et autres
Publié: (2024)
MoBiQuant: Mixture-of-Bits Quantization for Token-Adaptive Any-Precision LLM
par: Wang, Dongwei, et autres
Publié: (2026)
par: Wang, Dongwei, et autres
Publié: (2026)
True Online TD-Replan(lambda) Achieving Planning through Replaying
par: Altahhan, Abdulrahman
Publié: (2025)
par: Altahhan, Abdulrahman
Publié: (2025)
Convolutional Neural Network Achieves Human-level Accuracy in Music Genre Classification
par: Dong, Mingwen
Publié: (2018)
par: Dong, Mingwen
Publié: (2018)
BitLogic: Training Framework for Gradient-Based FPGA-Native Neural Networks
par: Bührer, Simon, et autres
Publié: (2026)
par: Bührer, Simon, et autres
Publié: (2026)
Documents similaires
-
LACE: Loss-Adaptive Capacity Expansion for Continual Learning
par: Tathe, Shivnath
Publié: (2026) -
DyBit: Dynamic Bit-Precision Numbers for Efficient Quantized Neural Network Inference
par: Zhou, Jiajun, et autres
Publié: (2023) -
SONIQ: System-Optimized Noise-Injected Ultra-Low-Precision Quantization with Full-Precision Parity
par: Zhou, Cyrus, et autres
Publié: (2023) -
Improving Quantization-aware Training of Low-Precision Network via Block Replacement on Full-Precision Counterpart
par: Yu, Chengting, et autres
Publié: (2024) -
Attn-QAT: 4-Bit Attention With Quantization-Aware Training
par: Zhang, Peiyuan, et autres
Publié: (2026)