Hooper, C., Kim, S., Mohammadzadeh, H., Mahoney, M. W., Shao, Y. S., Keutzer, K., & Gholami, A. (2024). KVQuant: Towards 10 Million Context Length LLM Inference with KV Cache Quantization.
Chicago-Zitierstil (17. Ausg.)Hooper, Coleman, Sehoon Kim, Hiva Mohammadzadeh, Michael W. Mahoney, Yakun Sophia Shao, Kurt Keutzer, und Amir Gholami. KVQuant: Towards 10 Million Context Length LLM Inference with KV Cache Quantization. 2024.
MLA-Zitierstil (9. Ausg.)Hooper, Coleman, et al. KVQuant: Towards 10 Million Context Length LLM Inference with KV Cache Quantization. 2024.
Achtung: Diese Zitate sind unter Umständen nicht zu 100% korrekt.