Buchumschlag

Prompt Compression in the Wild: Measuring Latency, Rate Adherence, and Quality for Faster LLM Inference

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kummer, Cornelius, Jurkschat, Lena, Färber, Michael, Vahdati, Sahar
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Information Retrieval Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

LightRetriever: A LLM-based Text Retrieval Architecture with Extremely Faster Query Inference
von: Ma, Guangyuan, et al.
Veröffentlicht: (2025)

The Effects of Hallucinations in Synthetic Training Data for Relation Extraction
von: Rogulsky, Steven, et al.
Veröffentlicht: (2024)

Paths to Causality: Finding Informative Subgraphs Within Knowledge Graphs for Knowledge-Based Causal Discovery
von: Susanti, Yuni, et al.
Veröffentlicht: (2025)

Leveraging Information Retrieval to Enhance Spoken Language Understanding Prompts in Few-Shot Learning
von: Lepagnol, Pierre, et al.
Veröffentlicht: (2025)

LLM-Rec: Personalized Recommendation via Prompting Large Language Models
von: Lyu, Hanjia, et al.
Veröffentlicht: (2023)

GenQREnsemble: Zero-Shot LLM Ensemble Prompting for Generative Query Reformulation
von: Dhole, Kaustubh, et al.
Veröffentlicht: (2024)

Do We Need Bigger Models for Science? Task-Aware Retrieval with Small Language Models
von: Kelber, Florian, et al.
Veröffentlicht: (2026)

RDF-Based Structured Quality Assessment Representation of Multilingual LLM Evaluations
von: Gwozdz, Jonas, et al.
Veröffentlicht: (2025)

No Free Lunch in Active Learning: LLM Embedding Quality Dictates Query Strategy Success
von: Rauch, Lukas, et al.
Veröffentlicht: (2025)

Take Care of Your Prompt Bias! Investigating and Mitigating Prompt Bias in Factual Knowledge Extraction
von: Xu, Ziyang, et al.
Veröffentlicht: (2024)

OSCAR: Online Soft Compression And Reranking
von: Louis, Maxime, et al.
Veröffentlicht: (2025)

Benchmarking Prompt Sensitivity in Large Language Models
von: Razavi, Amirhossein, et al.
Veröffentlicht: (2025)

Spectral Tempering for Embedding Compression in Dense Passage Retrieval
von: Li, Yongkang, et al.
Veröffentlicht: (2026)

PISCO: Pretty Simple Compression for Retrieval-Augmented Generation
von: Louis, Maxime, et al.
Veröffentlicht: (2025)

Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations
von: Xi, Yunjia, et al.
Veröffentlicht: (2026)

SARA: Selective and Adaptive Retrieval-augmented Generation with Context Compression
von: Jin, Yiqiao, et al.
Veröffentlicht: (2025)

ECoRAG: Evidentiality-guided Compression for Long Context RAG
von: Jeong, Yeonseok, et al.
Veröffentlicht: (2025)

Chained Prompting for Better Systematic Review Search Strategies
von: Nasser, Fatima, et al.
Veröffentlicht: (2025)

EXIT: Context-Aware Extractive Compression for Enhancing Retrieval-Augmented Generation
von: Hwang, Taeho, et al.
Veröffentlicht: (2024)

Diagnosing Translated Benchmarks: An Automated Quality Assurance Study of the EU20 Benchmark Suite
von: Thellmann, Klaudia, et al.
Veröffentlicht: (2026)

xRAG: Extreme Context Compression for Retrieval-augmented Generation with One Token
von: Cheng, Xin, et al.
Veröffentlicht: (2024)

Better by Comparison: Retrieval-Augmented Contrastive Reasoning for Automatic Prompt Optimization
von: Lee, Juhyeon, et al.
Veröffentlicht: (2025)

UNH at CheckThat! 2025: Fine-tuning Vs Prompting in Claim Extraction
von: Wilder, Joe, et al.
Veröffentlicht: (2025)

The Synergy of Automated Pipelines with Prompt Engineering and Generative AI in Web Crawling
von: Huang, Chau-Jian
Veröffentlicht: (2024)

Can Artificial Intelligence Generate Quality Research Topics Reflecting Patient Concerns?
von: Kim, Jiyeong, et al.
Veröffentlicht: (2024)

Can we Retrieve Everything All at Once? ARM: An Alignment-Oriented LLM-based Retrieval Method
von: Chen, Peter Baile, et al.
Veröffentlicht: (2025)

StealthRank: LLM Ranking Manipulation via Stealthy Prompt Optimization
von: Tang, Yiming, et al.
Veröffentlicht: (2025)

When "Better" Prompts Hurt: Evaluation-Driven Iteration for LLM Applications
von: Commey, Daniel
Veröffentlicht: (2026)

LLM-RankFusion: Mitigating Intrinsic Inconsistency in LLM-based Ranking
von: Zeng, Yifan, et al.
Veröffentlicht: (2024)

Rethinking Soft Compression in Retrieval-Augmented Generation: A Query-Conditioned Selector Perspective
von: Liu, Yunhao, et al.
Veröffentlicht: (2026)

PERSOMA: PERsonalized SOft ProMpt Adapter Architecture for Personalized Language Prompting
von: Hebert, Liam, et al.
Veröffentlicht: (2024)

Knowledge Compression via Question Generation: Enhancing Multihop Document Retrieval without Fine-tuning
von: Eponon, Anvi Alex, et al.
Veröffentlicht: (2025)

PromptLink: Leveraging Large Language Models for Cross-Source Biomedical Concept Linking
von: Xie, Yuzhang, et al.
Veröffentlicht: (2024)

Horizon Scans can be accelerated using novel information retrieval and artificial intelligence tools
von: Schmidt, Lena, et al.
Veröffentlicht: (2025)

KG-LLM-Bench: A Scalable Benchmark for Evaluating LLM Reasoning on Textualized Knowledge Graphs
von: Markowitz, Elan, et al.
Veröffentlicht: (2025)

RecGPT: Generative Personalized Prompts for Sequential Recommendation via ChatGPT Training Paradigm
von: Zhang, Yabin, et al.
Veröffentlicht: (2024)

Little Giants: Synthesizing High-Quality Embedding Data at Scale
von: Chen, Haonan, et al.
Veröffentlicht: (2024)

LLM2IR: simple unsupervised contrastive learning makes long-context LLM great retriever
von: Yang, Xiaocong
Veröffentlicht: (2025)

Refine Thought: A Test-Time Inference Method for Embedding Model Reasoning
von: Wang, Guangzhi, et al.
Veröffentlicht: (2025)

Enhanced Facet Generation with LLM Editing
von: Lee, Joosung, et al.
Veröffentlicht: (2024)