Category-Aware Semantic Caching for Heterogeneous LLM Workloads
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Wang, Chen, Liu, Xunzhuo, Zhu, Yue, Youssef, Alaa, Nagpurkar, Priya, Chen, Huamin |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Outcome-Aware Tool Selection for Semantic Routers: Latency-Constrained Learning Without LLM Inference
par: Chen, Huamin, et autres
Publié: (2026)
par: Chen, Huamin, et autres
Publié: (2026)
WAter: A Workload-Adaptive Knob Tuning System based on Workload Compression
par: Wang, Yibo, et autres
Publié: (2026)
par: Wang, Yibo, et autres
Publié: (2026)
LLM+KG@VLDB'24 Workshop Summary
par: Khan, Arijit, et autres
Publié: (2024)
par: Khan, Arijit, et autres
Publié: (2024)
Cross-Representation Benchmarking in Time-Series Electronic Health Records for Clinical Outcome Prediction
par: Chen, Tianyi, et autres
Publié: (2025)
par: Chen, Tianyi, et autres
Publié: (2025)
AnDB: Breaking Boundaries with an AI-Native Database for Universal Semantic Analysis
par: Wang, Tianqing, et autres
Publié: (2025)
par: Wang, Tianqing, et autres
Publié: (2025)
LEAD: Iterative Data Selection for Efficient LLM Instruction Tuning
par: Lin, Xiaotian, et autres
Publié: (2025)
par: Lin, Xiaotian, et autres
Publié: (2025)
ScaleDoc: Scaling LLM-based Predicates over Large Document Collections
par: Zhang, Hengrui, et autres
Publié: (2025)
par: Zhang, Hengrui, et autres
Publié: (2025)
SQLBarber: A System Leveraging Large Language Models to Generate Customized and Realistic SQL Workloads
par: Lao, Jiale, et autres
Publié: (2025)
par: Lao, Jiale, et autres
Publié: (2025)
Beyond Model Base Retrieval: Weaving Knowledge to Master Fine-grained Neural Network Design
par: Wang, Jialiang, et autres
Publié: (2025)
par: Wang, Jialiang, et autres
Publié: (2025)
From Commands to Prompts: LLM-based Semantic File System for AIOS
par: Shi, Zeru, et autres
Publié: (2024)
par: Shi, Zeru, et autres
Publié: (2024)
Tabular Data Augmentation for Machine Learning: Progress and Prospects of Embracing Generative AI
par: Cui, Lingxi, et autres
Publié: (2024)
par: Cui, Lingxi, et autres
Publié: (2024)
OntoTune: Ontology-Driven Learning for Query Optimization with Convolutional Models
par: Yue, Songhui, et autres
Publié: (2025)
par: Yue, Songhui, et autres
Publié: (2025)
Trajectory Data Management and Mining: A Survey from Deep Learning to the LLM Era
par: Chen, Wei, et autres
Publié: (2024)
par: Chen, Wei, et autres
Publié: (2024)
Efficient Training-Free Online Routing for High-Volume Multi-LLM Serving
par: Wu, Fangzhou, et autres
Publié: (2025)
par: Wu, Fangzhou, et autres
Publié: (2025)
TableGPT2: A Large Multimodal Model with Tabular Data Integration
par: Su, Aofeng, et autres
Publié: (2024)
par: Su, Aofeng, et autres
Publié: (2024)
RelGNN: Composite Message Passing for Relational Deep Learning
par: Chen, Tianlang, et autres
Publié: (2025)
par: Chen, Tianlang, et autres
Publié: (2025)
DumpKV: Learning based lifetime aware garbage collection for key value separation in LSM-tree
par: Zhuang, Zhutao, et autres
Publié: (2024)
par: Zhuang, Zhutao, et autres
Publié: (2024)
OpenGLT: A Comprehensive Benchmark of Graph Neural Networks for Graph-Level Tasks
par: Li, Haoyang, et autres
Publié: (2025)
par: Li, Haoyang, et autres
Publié: (2025)
A Latent Risk-Aware Machine Learning Approach for Predicting Operational Success in Clinical Trials based on TrialsBank
par: Halimi, Iness, et autres
Publié: (2026)
par: Halimi, Iness, et autres
Publié: (2026)
NeurDB: An AI-powered Autonomous Data System
par: Ooi, Beng Chin, et autres
Publié: (2024)
par: Ooi, Beng Chin, et autres
Publié: (2024)
MontePrep: Monte-Carlo-Driven Automatic Data Preparation without Target Data Instances
par: Ge, Congcong, et autres
Publié: (2025)
par: Ge, Congcong, et autres
Publié: (2025)
KDSelector: A Knowledge-Enhanced and Data-Efficient Model Selector Learning Framework for Time Series Anomaly Detection
par: Liang, Zhiyu, et autres
Publié: (2025)
par: Liang, Zhiyu, et autres
Publié: (2025)
STGformer: Efficient Spatiotemporal Graph Transformer for Traffic Forecasting
par: Wang, Hongjun, et autres
Publié: (2024)
par: Wang, Hongjun, et autres
Publié: (2024)
Robust Traffic Forecasting against Spatial Shift over Years
par: Wang, Hongjun, et autres
Publié: (2024)
par: Wang, Hongjun, et autres
Publié: (2024)
Beyond Relational: Semantic-Aware Multi-Modal Analytics with LLM-Native Query Optimization
par: Zhu, Junhao, et autres
Publié: (2025)
par: Zhu, Junhao, et autres
Publié: (2025)
When to Reason: Semantic Router for vLLM
par: Wang, Chen, et autres
Publié: (2025)
par: Wang, Chen, et autres
Publié: (2025)
OpenMLDB: A Real-Time Relational Data Feature Computation System for Online ML
par: Zhou, Xuanhe, et autres
Publié: (2025)
par: Zhou, Xuanhe, et autres
Publié: (2025)
Rel-MOSS: Towards Imbalanced Relational Deep Learning on Relational Databases
par: Yin, Jun, et autres
Publié: (2026)
par: Yin, Jun, et autres
Publié: (2026)
Empowering Machines to Think Like Chemists: Unveiling Molecular Structure-Polarity Relationships with Hierarchical Symbolic Regression
par: Lou, Siyu, et autres
Publié: (2024)
par: Lou, Siyu, et autres
Publié: (2024)
CHESS: Contextual Harnessing for Efficient SQL Synthesis
par: Talaei, Shayan, et autres
Publié: (2024)
par: Talaei, Shayan, et autres
Publié: (2024)
Sigma: A dataset for text-to-code semantic parsing with statistical analysis
par: Almohaimeed, Saleh, et autres
Publié: (2025)
par: Almohaimeed, Saleh, et autres
Publié: (2025)
Semantic Search and Recommendation Algorithm
par: Duhan, Aryan, et autres
Publié: (2024)
par: Duhan, Aryan, et autres
Publié: (2024)
A Lightweight Learned Cardinality Estimation Model
par: Zhu, Yaoyu, et autres
Publié: (2025)
par: Zhu, Yaoyu, et autres
Publié: (2025)
Making LLMs Work for Enterprise Data Tasks
par: Demiralp, Çağatay, et autres
Publié: (2024)
par: Demiralp, Çağatay, et autres
Publié: (2024)
NL2SQLBench: A Modular Benchmarking Framework for LLM-Enabled NL2SQL Solutions
par: Hou, Shizheng, et autres
Publié: (2026)
par: Hou, Shizheng, et autres
Publié: (2026)
Matrix Profile for Anomaly Detection on Multidimensional Time Series
par: Yeh, Chin-Chia Michael, et autres
Publié: (2024)
par: Yeh, Chin-Chia Michael, et autres
Publié: (2024)
Modeling Relational Patterns for Logical Query Answering over Knowledge Graphs
par: He, Yunjie, et autres
Publié: (2023)
par: He, Yunjie, et autres
Publié: (2023)
Top Ten Challenges Towards Agentic Neural Graph Databases
par: Bai, Jiaxin, et autres
Publié: (2025)
par: Bai, Jiaxin, et autres
Publié: (2025)
The Workload-Router-Pool Architecture for LLM Inference Optimization: A Vision Paper from the vLLM Semantic Router Project
par: Chen, Huamin, et autres
Publié: (2026)
par: Chen, Huamin, et autres
Publié: (2026)
Forgetting by Pruning: Data Deletion in Join Cardinality Estimation
par: He, Chaowei, et autres
Publié: (2025)
par: He, Chaowei, et autres
Publié: (2025)
Documents similaires
-
Outcome-Aware Tool Selection for Semantic Routers: Latency-Constrained Learning Without LLM Inference
par: Chen, Huamin, et autres
Publié: (2026) -
WAter: A Workload-Adaptive Knob Tuning System based on Workload Compression
par: Wang, Yibo, et autres
Publié: (2026) -
LLM+KG@VLDB'24 Workshop Summary
par: Khan, Arijit, et autres
Publié: (2024) -
Cross-Representation Benchmarking in Time-Series Electronic Health Records for Clinical Outcome Prediction
par: Chen, Tianyi, et autres
Publié: (2025) -
AnDB: Breaking Boundaries with an AI-Native Database for Universal Semantic Analysis
par: Wang, Tianqing, et autres
Publié: (2025)