Copertina

TIDE: Temporal Incremental Draft Engine for Self-Improving LLM Inference

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Park, Jiyoung, Jang, Hankyu, Song, Changseok, Jung, Wookeun
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Machine Learning Artificial Intelligence
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

WebLLM: A High-Performance In-Browser LLM Inference Engine
di: Ruan, Charlie F., et al.
Pubblicazione: (2024)

Speculative Decoding with CTC-based Draft Model for LLM Inference Acceleration
di: Wen, Zhuofan, et al.
Pubblicazione: (2024)

TIDE: Every Layer Knows the Token Beneath the Context
di: Jaiswal, Ajay, et al.
Pubblicazione: (2026)

Structural Reasoning Improves Molecular Understanding of LLM
di: Jang, Yunhui, et al.
Pubblicazione: (2024)

SpoT-Mamba: Learning Long-Range Dependency on Spatio-Temporal Graphs with Selective State Spaces
di: Choi, Jinhyeok, et al.
Pubblicazione: (2024)

Exploring and Improving Drafts in Blockwise Parallel Decoding
di: Kim, Taehyeon, et al.
Pubblicazione: (2024)

PRISM: Parametrically Refactoring Inference for Speculative Sampling Draft Models
di: Wang, Xuliang, et al.
Pubblicazione: (2026)

Balancing Graph Embedding Smoothness in Self-Supervised Learning via Information-Theoretic Decomposition
di: Jung, Heesoo, et al.
Pubblicazione: (2025)

P-EAGLE: Parallel-Drafting EAGLE with Scalable Training
di: Hui, Mude, et al.
Pubblicazione: (2026)

TRINE: A Token-Aware, Runtime-Adaptive FPGA Inference Engine for Multimodal AI
di: Oh, Hyunwoo, et al.
Pubblicazione: (2026)

Temporal Imbalance of Positive and Negative Supervision in Class-Incremental Learning
di: Ma, Jinge, et al.
Pubblicazione: (2026)

KITS: Inductive Spatio-Temporal Kriging with Increment Training Strategy
di: Xu, Qianxiong, et al.
Pubblicazione: (2023)

Multi-LLM Adaptive Conformal Inference for Reliable LLM Responses
di: Noh, Kangjun, et al.
Pubblicazione: (2026)

Decocted Experience Improves Test-Time Inference in LLM Agents
di: Shen, Maohao, et al.
Pubblicazione: (2026)

Temporal Alignment Guidance: On-Manifold Sampling in Diffusion Models
di: Park, Youngrok, et al.
Pubblicazione: (2025)

MicroFlow: An Efficient Rust-Based Inference Engine for TinyML
di: Carnelos, Matteo, et al.
Pubblicazione: (2024)

Improving LLM Reasoning through Scaling Inference Computation with Collaborative Verification
di: Liang, Zhenwen, et al.
Pubblicazione: (2024)

Experiential Reflective Learning for Self-Improving LLM Agents
di: Allard, Marc-Antoine, et al.
Pubblicazione: (2026)

Time Series Imputation with Multivariate Radial Basis Function Neural Network
di: Jung, Chanyoung, et al.
Pubblicazione: (2024)

Fair Class-Incremental Learning using Sample Weighting
di: Park, Jaeyoung, et al.
Pubblicazione: (2024)

CSAttention: Centroid-Scoring Attention for Accelerating LLM Inference
di: Song, Chuxu, et al.
Pubblicazione: (2026)

FlashInfer: Efficient and Customizable Attention Engine for LLM Inference Serving
di: Ye, Zihao, et al.
Pubblicazione: (2025)

Evaluating Temporal Plasticity in Foundation Time Series Models for Incremental Fine-tuning
di: Liu, Jia, et al.
Pubblicazione: (2025)

Enhancing Federated Class-Incremental Learning via Spatial-Temporal Statistics Aggregation
di: Guan, Zenghao, et al.
Pubblicazione: (2025)

A Slices Perspective for Incremental Nonparametric Inference in High Dimensional State Spaces
di: Shienman, Moshe, et al.
Pubblicazione: (2024)

Can We Rely on LLM Agents to Draft Long-Horizon Plans? Let's Take TravelPlanner as an Example
di: Chen, Yanan, et al.
Pubblicazione: (2024)

Energy-Efficient Wireless LLM Inference via Uncertainty and Importance-Aware Speculative Decoding
di: Park, Jihoon, et al.
Pubblicazione: (2025)

DEER: Draft with Diffusion, Verify with Autoregressive Models
di: Cheng, Zicong, et al.
Pubblicazione: (2025)

Carbon Intensity-Aware Adaptive Inference of DNNs
di: Jung, Jiwan
Pubblicazione: (2024)

Self-Supervised Pre-Training for Precipitation Post-Processor
di: An, Sojung, et al.
Pubblicazione: (2023)

Accelerating Large-Scale Reasoning Model Inference with Sparse Self-Speculative Decoding
di: Zhao, Yilong, et al.
Pubblicazione: (2025)

Recursive Speculative Decoding: Accelerating LLM Inference via Sampling Without Replacement
di: Jeon, Wonseok, et al.
Pubblicazione: (2024)

Scaling Laws Meet Model Architecture: Toward Inference-Efficient LLMs
di: Bian, Song, et al.
Pubblicazione: (2025)

TTKV: Temporal-Tiered KV Cache for Long-Context LLM Inference
di: Dzikanyanga, Gradwell, et al.
Pubblicazione: (2026)

TIMING: Temporality-Aware Integrated Gradients for Time Series Explanation
di: Jang, Hyeongwon, et al.
Pubblicazione: (2025)

ProteinEngine: Empower LLM with Domain Knowledge for Protein Engineering
di: Shen, Yiqing, et al.
Pubblicazione: (2024)

Improving Instruction Following in Language Models through Proxy-Based Uncertainty Estimation
di: Lee, JoonHo, et al.
Pubblicazione: (2024)

When Drafts Evolve: Speculative Decoding Meets Online Learning
di: Qian, Yu-Yang, et al.
Pubblicazione: (2026)

Unifying Inductive, Cross-Domain, and Multimodal Learning for Robust and Generalizable Recommendation
di: Chung, Chanyoung, et al.
Pubblicazione: (2025)

Self-Improving LLM Agents at Test-Time
di: Acikgoz, Emre Can, et al.
Pubblicazione: (2025)