Squeeze10-LLM: Squeezing LLMs' Weights by 10 Times via a Staged Mixed-Precision Quantization Method

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Zhu, Qingcheng, Ren, Yangyang, Yang, Linlin, Lin, Mingbao, Li, Yanjing, Xu, Sheng, Feng, Zichao, Zhu, Haodong, Yang, Yuguang, Zhang, Juan, Wang, Runqi, Zhang, Baochang
Format: Preprint
Veröffentlicht: 2025
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!