Buchumschlag

The Impact of Quantization on Retrieval-Augmented Generation: An Analysis of Small LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yazan, Mert, Verberne, Suzan, Situmeang, Frederik
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence Information Retrieval
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Improving RAG for Personalization with Author Features and Contrastive Examples
von: Yazan, Mert, et al.
Veröffentlicht: (2025)

The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search
von: Yazan, Mert, et al.
Veröffentlicht: (2026)

Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
von: Yazan, Mert, et al.
Veröffentlicht: (2026)

Personality over Precision: Exploring the Influence of Human-Likeness on ChatGPT Use for Search
von: Yazan, Mert, et al.
Veröffentlicht: (2025)

Retrieval-Augmented Generation by Evidence Retroactivity in LLMs
von: Xiao, Liang, et al.
Veröffentlicht: (2025)

Generative Retrieval with Few-shot Indexing
von: Askari, Arian, et al.
Veröffentlicht: (2024)

Towards Fair RAG: On the Impact of Fair Ranking in Retrieval-Augmented Generation
von: Kim, To Eun, et al.
Veröffentlicht: (2024)

Retro-li: Small-Scale Retrieval Augmented Generation Supporting Noisy Similarity Searches and Domain Shift Generalization
von: Rashiti, Gentiana, et al.
Veröffentlicht: (2024)

Open-Source Reproduction and Explainability Analysis of Corrective Retrieval Augmented Generation
von: Yalavarthi, Surya Vardhan
Veröffentlicht: (2026)

Benchmarking Retrieval-Augmented Generation for Chemistry
von: Zhong, Xianrui, et al.
Veröffentlicht: (2025)

CLI-RAG: A Retrieval-Augmented Framework for Clinically Structured and Context Aware Text Generation with LLMs
von: Keerthana, Garapati, et al.
Veröffentlicht: (2025)

Utility-Focused LLM Annotation for Retrieval and Retrieval-Augmented Generation
von: Zhang, Hengran, et al.
Veröffentlicht: (2025)

R^2AG: Incorporating Retrieval Information into Retrieval Augmented Generation
von: Ye, Fuda, et al.
Veröffentlicht: (2024)

Graph Retrieval-Augmented Generation: A Survey
von: Peng, Boci, et al.
Veröffentlicht: (2024)

Comparative Analysis of Neural Retriever-Reranker Pipelines for Retrieval-Augmented Generation over Knowledge Graphs in E-commerce Applications
von: Rumble, Teri, et al.
Veröffentlicht: (2025)

Enhancing Retrieval Processes for Language Generation with Augmented Queries
von: Ghali, Julien Pierre Edmond, et al.
Veröffentlicht: (2024)

Trustworthiness in Retrieval-Augmented Generation Systems: A Survey
von: Zhou, Yujia, et al.
Veröffentlicht: (2024)

RAGTurk: Best Practices for Retrieval Augmented Generation in Turkish
von: Köse, Süha Kağan, et al.
Veröffentlicht: (2026)

PISCO: Pretty Simple Compression for Retrieval-Augmented Generation
von: Louis, Maxime, et al.
Veröffentlicht: (2025)

A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models
von: Fan, Wenqi, et al.
Veröffentlicht: (2024)

A Theory for Token-Level Harmonization in Retrieval-Augmented Generation
von: Xu, Shicheng, et al.
Veröffentlicht: (2024)

Pistis-RAG: Enhancing Retrieval-Augmented Generation with Human Feedback
von: Bai, Yu, et al.
Veröffentlicht: (2024)

GFM-RAG: Graph Foundation Model for Retrieval Augmented Generation
von: Luo, Linhao, et al.
Veröffentlicht: (2025)

ARES: An Automated Evaluation Framework for Retrieval-Augmented Generation Systems
von: Saad-Falcon, Jon, et al.
Veröffentlicht: (2023)

Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG
von: Singh, Aditi, et al.
Veröffentlicht: (2025)

Cross-Document Topic-Aligned Chunking for Retrieval-Augmented Generation
von: Stankovic, Mile
Veröffentlicht: (2025)

RankRAG: Unifying Context Ranking with Retrieval-Augmented Generation in LLMs
von: Yu, Yue, et al.
Veröffentlicht: (2024)

RAG Foundry: A Framework for Enhancing LLMs for Retrieval Augmented Generation
von: Fleischer, Daniel, et al.
Veröffentlicht: (2024)

Retrieval-Augmented LLMs for Evidence Localization in Clinical Trial Recruitment from Longitudinal EHR Narratives
von: Chen, Ziyi, et al.
Veröffentlicht: (2026)

Generative Language Models with Retrieval Augmented Generation for Automated Short Answer Scoring
von: Wang, Zifan, et al.
Veröffentlicht: (2024)

RARe: Retrieval Augmented Retrieval with In-Context Examples
von: Tejaswi, Atula, et al.
Veröffentlicht: (2024)

A Survey on Retrieval-Augmented Text Generation for Large Language Models
von: Huang, Yizheng, et al.
Veröffentlicht: (2024)

CtrlA: Adaptive Retrieval-Augmented Generation via Inherent Control
von: Liu, Huanshuo, et al.
Veröffentlicht: (2024)

Retrieval Augmented Generation-Based Incident Resolution Recommendation System for IT Support
von: Isaza, Paulina Toro, et al.
Veröffentlicht: (2024)

PersianRAG: A Retrieval-Augmented Generation System for Persian Language
von: Hosseini, Hossein, et al.
Veröffentlicht: (2024)

C-RAG: Certified Generation Risks for Retrieval-Augmented Language Models
von: Kang, Mintong, et al.
Veröffentlicht: (2024)

DIRAS: Efficient LLM Annotation of Document Relevance in Retrieval Augmented Generation
von: Ni, Jingwei, et al.
Veröffentlicht: (2024)

EXIT: Context-Aware Extractive Compression for Enhancing Retrieval-Augmented Generation
von: Hwang, Taeho, et al.
Veröffentlicht: (2024)

VersionRAG: Version-Aware Retrieval-Augmented Generation for Evolving Documents
von: Huwiler, Daniel, et al.
Veröffentlicht: (2025)

Improving Retrieval-Augmented Generation without Taxonomy-based Error Categorization
von: Zhang, Gongbo, et al.
Veröffentlicht: (2026)