Copertina

A Multi-Model Adaptation of Speculative Decoding for Classification

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Roy, Somnath, Sreekar, Padharthi, Narasimha, Srivatsa, Anand, Anubhav
Natura:	Preprint
Pubblicazione:	2025
Soggetti:	Computation and Language
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Token-Driven GammaTune: Adaptive Calibration for Enhanced Speculative Decoding
di: Gautam, Aayush, et al.
Pubblicazione: (2025)

Dynamic Speculation Lookahead Accelerates Speculative Decoding of Large Language Models
di: Mamou, Jonathan, et al.
Pubblicazione: (2024)

Multi-Candidate Speculative Decoding
di: Yang, Sen, et al.
Pubblicazione: (2024)

Improving Multi-candidate Speculative Decoding
di: Lu, Xiaofan, et al.
Pubblicazione: (2024)

3-Model Speculative Decoding
di: Byun, Sanghyun, et al.
Pubblicazione: (2025)

Constrained Decoding with Speculative Lookaheads
di: Nakshatri, Nishanth, et al.
Pubblicazione: (2024)

Speculative Decoding with a Speculative Vocabulary
di: Williams, Miles, et al.
Pubblicazione: (2026)

Multi-Drafter Speculative Decoding with Alignment Feedback
di: Kim, Taehyeon, et al.
Pubblicazione: (2026)

Decoding Speculative Decoding
di: Yan, Minghao, et al.
Pubblicazione: (2024)

Speculative Decoding for Multi-Sample Inference
di: Li, Yiwei, et al.
Pubblicazione: (2025)

Speculative Contrastive Decoding
di: Yuan, Hongyi, et al.
Pubblicazione: (2023)

Accelerating Production LLMs with Combined Token/Embedding Speculators
di: Wertheimer, Davis, et al.
Pubblicazione: (2024)

DuoDecoding: Hardware-aware Heterogeneous Speculative Decoding with Dynamic Multi-Sequence Drafting
di: Lv, Kai, et al.
Pubblicazione: (2025)

Graph-Structured Speculative Decoding
di: Gong, Zhuocheng, et al.
Pubblicazione: (2024)

MASSV: Multimodal Adaptation and Self-Data Distillation for Speculative Decoding of Vision-Language Models
di: Ganesan, Mugilan, et al.
Pubblicazione: (2025)

Speculative Verification: Exploiting Information Gain to Refine Speculative Decoding
di: Kim, Sungkyun, et al.
Pubblicazione: (2025)

Towards Optimal Multi-draft Speculative Decoding
di: Hu, Zhengmian, et al.
Pubblicazione: (2025)

EMS-SD: Efficient Multi-sample Speculative Decoding for Accelerating Large Language Models
di: Ni, Yunsheng, et al.
Pubblicazione: (2024)

Self Speculative Decoding for Diffusion Large Language Models
di: Gao, Yifeng, et al.
Pubblicazione: (2025)

EvoSpec: Evolving Speculative Decoding via Real-Time Vocabulary and Parameter Adaptation
di: Zhang, Shuyu, et al.
Pubblicazione: (2026)

The Disparate Impacts of Speculative Decoding
di: Sandler, Jameson, et al.
Pubblicazione: (2025)

Scaling Laws for Speculative Decoding
di: Yan, Siyuan, et al.
Pubblicazione: (2025)

Cross-Attention Speculative Decoding
di: Zhong, Wei, et al.
Pubblicazione: (2025)

Speculative Decoding: Performance or Illusion?
di: Liu, Xiaoxuan, et al.
Pubblicazione: (2025)

Mamba Drafters for Speculative Decoding
di: Choi, Daewon, et al.
Pubblicazione: (2025)

Speculative Decoding Across Languages
di: Paudel, Nirajan, et al.
Pubblicazione: (2026)

SpecHub: Provable Acceleration to Multi-Draft Speculative Decoding
di: Sun, Ryan, et al.
Pubblicazione: (2024)

Goose: Anisotropic Speculation Trees for Training-Free Speculative Decoding
di: Jin, Tao, et al.
Pubblicazione: (2026)

SpecTr-GBV: Multi-Draft Block Verification Accelerating Speculative Decoding
di: Lin, Yijun, et al.
Pubblicazione: (2026)

Online Speculative Decoding
di: Liu, Xiaoxuan, et al.
Pubblicazione: (2023)

UniVer: A Unified Perspective for Multi-step and Multi-draft Speculative Decoding
di: Weng, Yepeng, et al.
Pubblicazione: (2026)

Speculative Decoding and Beyond: An In-Depth Survey of Techniques
di: Hu, Yunhai, et al.
Pubblicazione: (2025)

DReSD: Dense Retrieval for Speculative Decoding
di: Gritta, Milan, et al.
Pubblicazione: (2025)

Accelerate Speculative Decoding with Sparse Computation in Verification
di: Wang, Jikai, et al.
Pubblicazione: (2025)

SPEED: Speculative Pipelined Execution for Efficient Decoding
di: Hooper, Coleman, et al.
Pubblicazione: (2023)

DFlash: Block Diffusion for Flash Speculative Decoding
di: Chen, Jian, et al.
Pubblicazione: (2026)

Speculative Pipeline Decoding: Higher-Accruacy and Zero-Bubble Speculation via Pipeline Parallelism
di: Yu, Yijiong, et al.
Pubblicazione: (2026)

Dynamic Depth Decoding: Faster Speculative Decoding for LLMs
di: Brown, Oscar, et al.
Pubblicazione: (2024)

AdaSD: Adaptive Speculative Decoding for Efficient Language Model Inference
di: Lu, Kuan-Wei, et al.
Pubblicazione: (2025)

Domino: Decoupling Causal Modeling from Autoregressive Drafting in Speculative Decoding
di: Huang, Jianuo, et al.
Pubblicazione: (2026)