Buchumschlag

SCALM: Towards Semantic Caching for Automated Chat Services with Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Li, Jiaxing, Xu, Chi, Wang, Feng, von Riedemann, Isaac M, Zhang, Cong, Liu, Jiangchuan
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SCALM: Detecting Bad Practices in Smart Contracts Through LLMs
von: Li, Zongwei, et al.
Veröffentlicht: (2025)

ChatUIE: Exploring Chat-based Unified Information Extraction using Large Language Models
von: Xu, Jun, et al.
Veröffentlicht: (2024)

Towards Universal Semantics With Large Language Models
von: Baartmans, Raymond, et al.
Veröffentlicht: (2025)

dLLM-Cache: Accelerating Diffusion Large Language Models with Adaptive Caching
von: Liu, Zhiyuan, et al.
Veröffentlicht: (2025)

ChatSR: Multimodal Large Language Models for Scientific Formula Discovery
von: Li, Yanjie, et al.
Veröffentlicht: (2024)

Enhancing Large Language Models for Mobility Analytics with Semantic Location Tokenization
von: Chen, Yile, et al.
Veröffentlicht: (2025)

MiniCache: KV Cache Compression in Depth Dimension for Large Language Models
von: Liu, Akide, et al.
Veröffentlicht: (2024)

SparseDoctor: Towards Efficient Chat Doctor with Mixture of Experts Enhanced Large Language Models
von: Zhang, Jianbin, et al.
Veröffentlicht: (2025)

ChatVis: Automating Scientific Visualization with a Large Language Model
von: Mallick, Tanwi, et al.
Veröffentlicht: (2024)

A Survey on Evaluation of Multimodal Large Language Models
von: Huang, Jiaxing, et al.
Veröffentlicht: (2024)

Jailbreak Attacks and Defenses Against Large Language Models: A Survey
von: Yi, Sibo, et al.
Veröffentlicht: (2024)

Probing Multimodal Large Language Models for Global and Local Semantic Representations
von: Tao, Mingxu, et al.
Veröffentlicht: (2024)

Semantic-guided Diverse Decoding for Large Language Model
von: Shi, Weijie, et al.
Veröffentlicht: (2025)

ChatSUMO: Large Language Model for Automating Traffic Scenario Generation in Simulation of Urban MObility
von: Li, Shuyang, et al.
Veröffentlicht: (2024)

Gradients with Respect to Semantics Preserving Embeddings Tell the Uncertainty of Large Language Models
von: Li, Mingda, et al.
Veröffentlicht: (2026)

TaskBench: Benchmarking Large Language Models for Task Automation
von: Shen, Yongliang, et al.
Veröffentlicht: (2023)

Towards Threshold-Free KV Cache Pruning
von: Ni, Xuanfan, et al.
Veröffentlicht: (2025)

Brain in a Vat: On Missing Pieces Towards Artificial General Intelligence in Large Language Models
von: Ma, Yuxi, et al.
Veröffentlicht: (2023)

Towards Reliable and Empathetic Depression-Diagnosis-Oriented Chats
von: Lan, Kunyao, et al.
Veröffentlicht: (2024)

Chat2SPaT: A Large Language Model Based Tool for Automating Traffic Signal Control Plan Management
von: Wang, Yue, et al.
Veröffentlicht: (2025)

Empowering Molecule Discovery for Molecule-Caption Translation with Large Language Models: A ChatGPT Perspective
von: Li, Jiatong, et al.
Veröffentlicht: (2023)

PEToolLLM: Towards Personalized Tool Learning in Large Language Models
von: Xu, Qiancheng, et al.
Veröffentlicht: (2025)

Systematic Characterization of the Effectiveness of Alignment in Large Language Models for Categorical Decisions
von: Kohane, Isaac
Veröffentlicht: (2024)

AhaKV: Adaptive Holistic Attention-Driven KV Cache Eviction for Efficient Inference of Large Language Models
von: Gu, Yifeng, et al.
Veröffentlicht: (2025)

LaCache: Ladder-Shaped KV Caching for Efficient Long-Context Modeling of Large Language Models
von: Shi, Dachuan, et al.
Veröffentlicht: (2025)

Towards Compositionally Generalizable Semantic Parsing in Large Language Models: A Survey
von: Mannekote, Amogh
Veröffentlicht: (2024)

On the Semantics of Large Language Models
von: Schuele, Martin
Veröffentlicht: (2025)

LLMExplainer: Large Language Model based Bayesian Inference for Graph Explanation Generation
von: Zhang, Jiaxing, et al.
Veröffentlicht: (2024)

ChatGPT Alternative Solutions: Large Language Models Survey
von: Alipour, Hanieh, et al.
Veröffentlicht: (2024)

Beyond the Tip of Efficiency: Uncovering the Submerged Threats of Jailbreak Attacks in Small Language Models
von: Yi, Sibo, et al.
Veröffentlicht: (2025)

Towards Large Reasoning Models: A Survey of Reinforced Reasoning with Large Language Models
von: Xu, Fengli, et al.
Veröffentlicht: (2025)

$A^3$: Attention-Aware Accurate KV Cache Fusion for Fast Large Language Model Serving
von: Zhou, Yuechi, et al.
Veröffentlicht: (2025)

Deliberation in Latent Space via Differentiable Cache Augmentation
von: Liu, Luyang, et al.
Veröffentlicht: (2024)

Automated Creativity Evaluation for Large Language Models: A Reference-Based Approach
von: Li, Ruizhe, et al.
Veröffentlicht: (2025)

Adaptive Tool Use in Large Language Models with Meta-Cognition Trigger
von: Li, Wenjun, et al.
Veröffentlicht: (2025)

Improving Large Language Models with Concept-Aware Fine-Tuning
von: Chen, Michael K., et al.
Veröffentlicht: (2025)

LocalGPT: Benchmarking and Advancing Large Language Models for Local Life Services in Meituan
von: Lan, Xiaochong, et al.
Veröffentlicht: (2025)

Learning Evolving Tools for Large Language Models
von: Chen, Guoxin, et al.
Veröffentlicht: (2024)

Towards Localized and Disentangled Knowledge Editing for Multimodal Large Language Models
von: Gu, Leijiang, et al.
Veröffentlicht: (2026)

KVShare: An LLM Service System with Efficient and Effective Multi-Tenant KV Cache Reuse
von: Yang, Huan, et al.
Veröffentlicht: (2025)