Buchumschlag

Bielik-Q2-Sharp: A Comparative Study of Extreme 2-bit Quantization Methods for a Polish 11B Language Model

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Prejzner, Jakub
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Advancing Polish Language Modeling through Tokenizer Optimization in the Bielik v3 7B and 11B Series
von: Ociepa, Krzysztof, et al.
Veröffentlicht: (2026)

Bielik 7B v0.1: A Polish Language Model -- Development, Insights, and Evaluation
von: Ociepa, Krzysztof, et al.
Veröffentlicht: (2024)

Bielik Guard: Efficient Polish Language Safety Classifiers for LLM Content Moderation
von: Wróbel, Krzysztof, et al.
Veröffentlicht: (2026)

Bielik-Minitron-7B: Compressing Large Language Models via Structured Pruning and Knowledge Distillation for the Polish Language
von: Kinas, Remigiusz, et al.
Veröffentlicht: (2026)

Bielik 11B v2 Technical Report
von: Ociepa, Krzysztof, et al.
Veröffentlicht: (2025)

Bielik 11B v3: Multilingual Large Language Model for European Languages
von: Ociepa, Krzysztof, et al.
Veröffentlicht: (2025)

ParetoQ: Improving Scaling Laws in Extremely Low-bit LLM Quantization
von: Liu, Zechun, et al.
Veröffentlicht: (2025)

Passage Retrieval of Polish Texts Using OKAPI BM25 and an Ensemble of Cross Encoders
von: Pokrywka, Jakub
Veröffentlicht: (2024)

R2Q: Towards Robust 2-Bit Large Language Models via Residual Refinement Quantization
von: Chen, Jiayi, et al.
Veröffentlicht: (2025)

Predicting Emotion Intensity in Polish Political Texts: Comparing Supervised Models and Large Language Models in a Resource-Poor Language
von: Plisiecki, Hubert, et al.
Veröffentlicht: (2024)

PLLuM: A Family of Polish Large Language Models
von: Kocoń, Jan, et al.
Veröffentlicht: (2025)

GPT-4 passes most of the 297 written Polish Board Certification Examinations
von: Pokrywka, Jakub, et al.
Veröffentlicht: (2024)

Polish-English medical knowledge transfer: A new benchmark and results
von: Grzybowski, Łukasz, et al.
Veröffentlicht: (2024)

LLMzSzŁ: a comprehensive LLM benchmark for Polish
von: Jassem, Krzysztof, et al.
Veröffentlicht: (2025)

Fitting Is Not Enough: Smoothness in Extremely Quantized LLMs
von: Xu, Yuzhuang, et al.
Veröffentlicht: (2026)

Bielik v3 Small: Technical Report
von: Ociepa, Krzysztof, et al.
Veröffentlicht: (2025)

CEAID: Benchmark of Multilingual Machine-Generated Text Detection Methods for Central European Languages
von: Macko, Dominik, et al.
Veröffentlicht: (2025)

E^2-LLM: Efficient and Extreme Length Extension of Large Language Models
von: Liu, Jiaheng, et al.
Veröffentlicht: (2024)

Self-Polish: Enhance Reasoning in Large Language Models via Problem Refinement
von: Xi, Zhiheng, et al.
Veröffentlicht: (2023)

Annotation-Efficient Vision-Language Model Adaptation to the Polish Language Using the LLaVA Framework
von: Statkiewicz, Grzegorz, et al.
Veröffentlicht: (2026)

Efficient Language Adaptive Pre-training: Extending State-of-the-Art Large Language Models for Polish
von: Ruciński, Szymon
Veröffentlicht: (2024)

BASE-Q: Bias and Asymmetric Scaling Enhanced Rotational Quantization for Large Language Models
von: He, Liulu, et al.
Veröffentlicht: (2025)

Quantization Hurts Reasoning? An Empirical Study on Quantized Reasoning Models
von: Liu, Ruikang, et al.
Veröffentlicht: (2025)

Polish-ASTE: Aspect-Sentiment Triplet Extraction Datasets for Polish
von: Lango, Marta, et al.
Veröffentlicht: (2025)

Evaluating Quantized Large Language Models
von: Li, Shiyao, et al.
Veröffentlicht: (2024)

SignRoundV2: Toward Closing the Performance Gap in Extremely Low-Bit Post-Training Quantization for LLMs
von: Cheng, Wenhua, et al.
Veröffentlicht: (2025)

A Comprehensive Study on Quantization Techniques for Large Language Models
von: Lang, Jiedong, et al.
Veröffentlicht: (2024)

Cross-Family Speculative Decoding for Polish Language Models on Apple~Silicon: An Empirical Evaluation of Bielik~11B with UAG-Extended MLX-LM
von: Fonal, Krzysztof
Veröffentlicht: (2026)

AMAQ: Adaptive Mixed-bit Activation Quantization for Collaborative Parameter Efficient Fine-tuning
von: Song, Yurun, et al.
Veröffentlicht: (2025)

Comparing Uncertainty Measurement and Mitigation Methods for Large Language Models: A Systematic Review
von: Abbasli, Toghrul, et al.
Veröffentlicht: (2025)

Exploring the Trade-Offs: Quantization Methods, Task Difficulty, and Model Size in Large Language Models From Edge to Giant
von: Lee, Jemin, et al.
Veröffentlicht: (2024)

A Comparative Study of Large Language Models and Human Personality Traits
von: Jiaqi, Wang, et al.
Veröffentlicht: (2025)

A Comprehensive Evaluation of Quantization Strategies for Large Language Models
von: Jin, Renren, et al.
Veröffentlicht: (2024)

Optimizing Large Language Models through Quantization: A Comparative Analysis of PTQ and QAT Techniques
von: Hasan, Jahid
Veröffentlicht: (2024)

A Survey of Low-bit Large Language Models: Basics, Systems, and Algorithms
von: Gong, Ruihao, et al.
Veröffentlicht: (2024)

ButterflyQuant: Ultra-low-bit LLM Quantization through Learnable Orthogonal Butterfly Transforms
von: Xu, Bingxin, et al.
Veröffentlicht: (2025)

A Comparative Study of Quality Evaluation Methods for Text Summarization
von: Nguyen, Huyen, et al.
Veröffentlicht: (2024)

When Quantization Affects Confidence of Large Language Models?
von: Proskurina, Irina, et al.
Veröffentlicht: (2024)

DLLMQuant: Quantizing Diffusion-based Large Language Models
von: Xu, Chen, et al.
Veröffentlicht: (2025)

Quantized Embedding Vectors for Controllable Diffusion Language Models
von: Kang, Cheng, et al.
Veröffentlicht: (2024)