Copertina

Stream2LLM: Overlap Context Streaming and Prefill for Reduced Time-to-First-Token (TTFT)

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Bachkaniwala, Rajveer, Luo, Chengqi, So, Richard, Mahajan, Divya, Rong, Kexin
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Databases Artificial Intelligence
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Speculative Prefill: Turbocharging TTFT with Lightweight and Training-Free Token Importance Estimation
di: Liu, Jingyu, et al.
Pubblicazione: (2025)

RDF Stream Taxonomy: Systematizing RDF Stream Types in Research and Practice
di: Sowinski, Piotr, et al.
Pubblicazione: (2023)

Streaming Model Cascades for Semantic SQL
di: Liskowski, Paweł, et al.
Pubblicazione: (2026)

Raising the ClaSS of Streaming Time Series Segmentation
di: Ermshaus, Arik, et al.
Pubblicazione: (2023)

StreamLink: Large-Language-Model Driven Distributed Data Engineering System
di: Feng, Dawei, et al.
Pubblicazione: (2025)

Incremental IVF Index Maintenance for Streaming Vector Search
di: Mohoney, Jason, et al.
Pubblicazione: (2024)

Is Long Context All You Need? Leveraging LLM's Extended Context for NL2SQL
di: Chung, Yeounoh, et al.
Pubblicazione: (2025)

Blue Data Intelligence Layer: Streaming Data and Agents for Multi-source Multi-modal Data-Centric Applications
di: Aminnaseri, Moin, et al.
Pubblicazione: (2026)

Making Prompts First-Class Citizens for Adaptive LLM Pipelines
di: Cetintemel, Ugur, et al.
Pubblicazione: (2025)

IVF-TQ: Calibration-Free Streaming Vector Search via a Codebook-Free Residual Layer
di: Sharma, Tarun
Pubblicazione: (2026)

Stream DaQ: Stream-First Data Quality Monitoring
di: Papastergios, Vasileios, et al.
Pubblicazione: (2025)

Real-Time Health Analytics Using Ontology-Driven Complex Event Processing and LLM Reasoning: A Tuberculosis Case Study
di: Chandra, Ritesh, et al.
Pubblicazione: (2025)

Can Language Models Enable In-Context Database?
di: Pan, Yu, et al.
Pubblicazione: (2024)

Prompt-Matcher: Leveraging Large Models to Reduce Uncertainty in Schema Matching Results
di: Feng, Longyu, et al.
Pubblicazione: (2024)

Rel-MOSS: Towards Imbalanced Relational Deep Learning on Relational Databases
di: Yin, Jun, et al.
Pubblicazione: (2026)

In-Context Adaptation to Concept Drift for Learned Database Operations
di: Zhu, Jiaqi, et al.
Pubblicazione: (2025)

LLMIA: An Out-of-the-Box Index Advisor via In-Context Learning with LLMs
di: Zhao, Xinxin, et al.
Pubblicazione: (2025)

Supporting Our AI Overlords: Redesigning Data Systems to be Agent-First
di: Liu, Shu, et al.
Pubblicazione: (2025)

STIndex: A Context-Aware Multi-Dimensional Spatiotemporal Information Extraction System
di: Zhang, Wenxiao, et al.
Pubblicazione: (2026)

Transforming Football Data into Object-centric Event Logs with Spatial Context Information
di: Chan, Vito, et al.
Pubblicazione: (2025)

LLM-Powered Proactive Data Systems
di: Zeighami, Sepanta, et al.
Pubblicazione: (2025)

LaDe: The First Comprehensive Last-mile Delivery Dataset from Industry
di: Wu, Lixia, et al.
Pubblicazione: (2023)

LLM+Graph@VLDB'2025 Workshop Summary
di: Fang, Yixiang, et al.
Pubblicazione: (2026)

Making Databases Faster with LLM Evolutionary Sampling
di: Erol, Mehmet Hamza, et al.
Pubblicazione: (2026)

LLM/Agent-as-Data-Analyst: A Survey
di: Tang, Zirui, et al.
Pubblicazione: (2025)

TabTracer: Monte Carlo Tree Search for Complex Table Reasoning with Large Language Models
di: Luo, Zhizhao, et al.
Pubblicazione: (2026)

Scaling GraphLLM with Bilevel-Optimized Sparse Querying
di: Peng, Yangzhe, et al.
Pubblicazione: (2026)

Interactive Data Harmonization with LLM Agents: Opportunities and Challenges
di: Santos, Aécio, et al.
Pubblicazione: (2025)

ROSE: An Intent-Centered Evaluation Metric for NL2SQL
di: Pei, Wenqi, et al.
Pubblicazione: (2026)

PIPE-RDF: An LLM-Assisted Pipeline for Enterprise RDF Benchmarking
di: Ranganath, Suraj
Pubblicazione: (2026)

Amalgam: Hybrid LLM-PGM Synthesis Algorithm for Accuracy and Realism
di: Kapenekakis, Antheas, et al.
Pubblicazione: (2026)

Credo: Declarative Control of LLM Pipelines via Beliefs and Policies
di: Lu, Duo, et al.
Pubblicazione: (2026)

Research Challenges in Relational Database Management Systems for LLM Queries
di: Akillioglu, Kerem, et al.
Pubblicazione: (2025)

CoddLLM: Empowering Large Language Models for Data Analytics
di: Zhang, Jiani, et al.
Pubblicazione: (2025)

Cut Costs, Not Accuracy: LLM-Powered Data Processing with Guarantees
di: Zeighami, Sepanta, et al.
Pubblicazione: (2025)

LLM-assisted Labeling Function Generation for Semantic Type Detection
di: Li, Chenjie, et al.
Pubblicazione: (2024)

QUITE: A Query Rewrite System Beyond Rules with LLM Agents
di: Song, Yuyang, et al.
Pubblicazione: (2025)

Knowledge Graph Construction for Stock Markets with LLM-Based Explainable Reasoning
di: Lee, Cheonsol, et al.
Pubblicazione: (2025)

AskDB: An LLM Agent for Natural Language Interaction with Relational Databases
di: Phan, Xuan-Quang, et al.
Pubblicazione: (2025)

A System and Benchmark for LLM-based Q&A on Heterogeneous Data
di: Fokoue, Achille, et al.
Pubblicazione: (2024)