Buchumschlag

Compensate Quantization Errors+: Quantized Models Are Inquisitive Learners

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Gao, Yifei, Ou, Jie, Wang, Lei, Cheng, Jun, Zhou, Mengchu
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence I.2.7
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Frequency Matters: Fast Model-Agnostic Data Curation for Pruning and Quantization
von: Monaco, Francesco Pio, et al.
Veröffentlicht: (2026)

Text-Based Approaches to Item Difficulty Modeling in Large-Scale Assessments: A Systematic Review
von: Peters, Sydney, et al.
Veröffentlicht: (2025)

Layer-Wise Quantization: A Pragmatic and Effective Method for Quantizing LLMs Beyond Integer Bit-Levels
von: Dumitru, Razvan-Gabriel, et al.
Veröffentlicht: (2024)

Detecting AI-Generated Texts in Cross-Domains
von: Zhou, You, et al.
Veröffentlicht: (2024)

QuickSilver -- Speeding up LLM Inference through Dynamic Token Halting, KV Skipping, Contextual Token Fusion, and Adaptive Matryoshka Quantization
von: Khanna, Danush, et al.
Veröffentlicht: (2025)

RUQuant: Towards Refining Uniform Quantization for Large Language Models
von: Liu, Han, et al.
Veröffentlicht: (2026)

RomanLens: The Role Of Latent Romanization In Multilinguality In LLMs
von: Saji, Alan, et al.
Veröffentlicht: (2025)

Xinyu: An Efficient LLM-based System for Commentary Generation
von: Wu, Yiquan, et al.
Veröffentlicht: (2024)

SEPTQ: A Simple and Effective Post-Training Quantization Paradigm for Large Language Models
von: Liu, Han, et al.
Veröffentlicht: (2026)

Constructing Cloze Questions Generatively
von: Sun, Yicheng, et al.
Veröffentlicht: (2024)

APIO: Automatic Prompt Induction and Optimization for Grammatical Error Correction and Text Simplification
von: Chernodub, Artem, et al.
Veröffentlicht: (2025)

PatentGPT: A Large Language Model for Intellectual Property
von: Bai, Zilong, et al.
Veröffentlicht: (2024)

Search-R3: Unifying Reasoning and Embedding in Large Language Models
von: Gui, Yuntao, et al.
Veröffentlicht: (2025)

Evaluating the Efficacy of Hybrid Deep Learning Models in Distinguishing AI-Generated Text
von: Oketunji, Abiodun Finbarrs
Veröffentlicht: (2023)

NL2LOGIC: AST-Guided Translation of Natural Language into First-Order Logic with Large Language Models
von: Putra, Rizky Ramadhana, et al.
Veröffentlicht: (2026)

Super Tiny Language Models
von: Hillier, Dylan, et al.
Veröffentlicht: (2024)

Exploring Model Invariance with Discrete Search for Ultra-Low-Bit Quantization
von: Wen, Yuqiao, et al.
Veröffentlicht: (2025)

Red Teaming for Large Language Models At Scale: Tackling Hallucinations on Mathematics Tasks
von: Buszydlik, Aleksander, et al.
Veröffentlicht: (2023)

A Practical Review of Mechanistic Interpretability for Transformer-Based Language Models
von: Rai, Daking, et al.
Veröffentlicht: (2024)

Demystifying Instruction Mixing for Fine-tuning Large Language Models
von: Wang, Renxi, et al.
Veröffentlicht: (2023)

A Hierarchical Error Framework for Reliable Automated Coding in Communication Research: Applications to Health and Political Communication
von: Zhao, Zhilong, et al.
Veröffentlicht: (2025)

Can Large Language Models Grasp Legal Theories? Enhance Legal Reasoning with Insights from Multi-Agent Collaboration
von: Yuan, Weikang, et al.
Veröffentlicht: (2024)

Large Language Model (LLM) Bias Index -- LLMBI
von: Oketunji, Abiodun Finbarrs, et al.
Veröffentlicht: (2023)

Partially Recentralization Softmax Loss for Vision-Language Models Robustness
von: Wang, Hao, et al.
Veröffentlicht: (2024)

Sticker-TTS: Learn to Utilize Historical Experience with a Sticker-driven Test-Time Scaling Framework
von: Chen, Jie, et al.
Veröffentlicht: (2025)

Streamlining Redundant Layers to Compress Large Language Models
von: Chen, Xiaodong, et al.
Veröffentlicht: (2024)

Quantized Side Tuning: Fast and Memory-Efficient Tuning of Quantized Large Language Models
von: Zhang, Zhengxin, et al.
Veröffentlicht: (2024)

RMGAP: Benchmarking the Generalization of Reward Models across Diverse Preferences
von: Zhou, Yangyang, et al.
Veröffentlicht: (2026)

Detecting Subtle Differences between Human and Model Languages Using Spectrum of Relative Likelihood
von: Xu, Yang, et al.
Veröffentlicht: (2024)

Low-Resource Court Judgment Summarization for Common Law Systems
von: Liu, Shuaiqi, et al.
Veröffentlicht: (2024)

Knowledge-Augmented Multimodal Clinical Rationale Generation for Disease Diagnosis with Small Language Models
von: Niu, Shuai, et al.
Veröffentlicht: (2024)

Beyond Token Length: Step Pruner for Efficient and Accurate Reasoning in Large Language Models
von: Wu, Canhui, et al.
Veröffentlicht: (2025)

Robustness of Large Language Models to Perturbations in Text
von: Singh, Ayush, et al.
Veröffentlicht: (2024)

Distributed In-Context Learning under Non-IID Among Clients
von: Liang, Siqi, et al.
Veröffentlicht: (2024)

Integrating Emotional and Linguistic Models for Ethical Compliance in Large Language Models
von: Chang, Edward Y.
Veröffentlicht: (2024)

Language Models are Crossword Solvers
von: Saha, Soumadeep, et al.
Veröffentlicht: (2024)

The Dual-Route Model of Induction
von: Feucht, Sheridan, et al.
Veröffentlicht: (2025)

UNO-Bench: A Unified Benchmark for Exploring the Compositional Law Between Uni-modal and Omni-modal in Omni Models
von: Chen, Chen, et al.
Veröffentlicht: (2025)

Dual Debiasing for Noisy In-Context Learning for Text Generation
von: Liang, Siqi, et al.
Veröffentlicht: (2025)

Proactive Agent: Shifting LLM Agents from Reactive Responses to Active Assistance
von: Lu, Yaxi, et al.
Veröffentlicht: (2024)