Buchumschlag

ASPD: Unlocking Adaptive Serial-Parallel Decoding by Exploring Intrinsic Parallelism in LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chen, Keyu, Shen, Zhifeng, Yu, Daohai, Wu, Haoqian, Wen, Wei, He, Jianfeng, Qiao, Ruizhi, Sun, Xing
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

dParallel: Learnable Parallel Decoding for dLLMs
von: Chen, Zigeng, et al.
Veröffentlicht: (2025)

AdaDecode: Accelerating LLM Decoding with Adaptive Layer Parallelism
von: Wei, Zhepei, et al.
Veröffentlicht: (2025)

Adaptive Dual Reasoner: Large Reasoning Models Can Think Efficiently by Hybrid Reasoning
von: Zhang, Yujian, et al.
Veröffentlicht: (2025)

HiChunk: Evaluating and Enhancing Retrieval-Augmented Generation with Hierarchical Chunking
von: Lu, Wensheng, et al.
Veröffentlicht: (2025)

Accelerating Diffusion LLMs via Adaptive Parallel Decoding
von: Israel, Daniel, et al.
Veröffentlicht: (2025)

PEARL: Parallel Speculative Decoding with Adaptive Draft Length
von: Liu, Tianyu, et al.
Veröffentlicht: (2024)

Youtu-LLM: Unlocking the Native Agentic Potential for Lightweight Large Language Models
von: Lu, Junru, et al.
Veröffentlicht: (2025)

Decoding at the Speed of Thought: Harnessing Parallel Decoding of Lexical Units for LLMs
von: Sun, Chenxi, et al.
Veröffentlicht: (2024)

ParallelSpec: Parallel Drafter for Efficient Speculative Decoding
von: Xiao, Zilin, et al.
Veröffentlicht: (2024)

Linear Attention Sequence Parallelism
von: Sun, Weigao, et al.
Veröffentlicht: (2024)

PSD: Pushing the Pareto Frontier of Diffusion LLMs via Parallel Speculative Decoding
von: Sun, Shengyin, et al.
Veröffentlicht: (2026)

Exploring and Improving Drafts in Blockwise Parallel Decoding
von: Kim, Taehyeon, et al.
Veröffentlicht: (2024)

RocketEval: Efficient Automated LLM Evaluation via Grading Checklist
von: Wei, Tianjun, et al.
Veröffentlicht: (2025)

Parallel Decoder Transformer: Planner-Seeded Latent Coordination for Synchronized Parallel Decoding
von: Robbins, Logan
Veröffentlicht: (2025)

APAR: LLMs Can Do Auto-Parallel Auto-Regressive Decoding
von: Liu, Mingdao, et al.
Veröffentlicht: (2024)

From Unaligned to Aligned: Scaling Multilingual LLMs with Multi-Way Parallel Corpora
von: Shen, Yingli, et al.
Veröffentlicht: (2025)

Divide and Conquer: Accelerating Diffusion-Based Large Language Models via Adaptive Parallel Decoding
von: Luo, Xiangzhong, et al.
Veröffentlicht: (2026)

Cerberus: Efficient Inference with Adaptive Parallel Decoding and Sequential Knowledge Enhancement
von: Liu, Yuxuan, et al.
Veröffentlicht: (2024)

Learning to Parallel: Accelerating Diffusion Large Language Models via Learnable Parallel Decoding
von: Bao, Wenrui, et al.
Veröffentlicht: (2025)

Accelerate Parallelizable Reasoning via Parallel Decoding within One Sequence
von: Yu, Yijiong
Veröffentlicht: (2025)

When should I search more: Adaptive Complex Query Optimization with Reinforcement Learning
von: Wen, Wei, et al.
Veröffentlicht: (2026)

Fast and Accurate Causal Parallel Decoding using Jacobi Forcing
von: Hu, Lanxiang, et al.
Veröffentlicht: (2025)

A Survey on Parallel Text Generation: From Parallel Decoding to Diffusion Language Models
von: Zhang, Lingzhe, et al.
Veröffentlicht: (2025)

SimpleTool: Parallel Decoding for Real-Time LLM Function Calling
von: Shi, Xiaoxin, et al.
Veröffentlicht: (2026)

ReFusion: A Diffusion Large Language Model with Parallel Autoregressive Decoding
von: Li, Jia-Nan, et al.
Veröffentlicht: (2025)

Lossless Acceleration of Large Language Model via Adaptive N-gram Parallel Decoding
von: Ou, Jie, et al.
Veröffentlicht: (2024)

VerilogMonkey: Exploring Parallel Scaling for Automated Verilog Code Generation with LLMs
von: Niu, Juxin, et al.
Veröffentlicht: (2025)

P-MMEval: A Parallel Multilingual Multitask Benchmark for Consistent Evaluation of LLMs
von: Zhang, Yidan, et al.
Veröffentlicht: (2024)

Parallel Loop Transformer for Efficient Test-Time Computation Scaling
von: Wu, Bohong, et al.
Veröffentlicht: (2025)

Dependency-Guided Parallel Decoding in Discrete Diffusion Language Models
von: Ringel, Liran, et al.
Veröffentlicht: (2026)

Parallel Decoding via Hidden Transfer for Lossless Large Language Model Acceleration
von: Wu, Pengfei, et al.
Veröffentlicht: (2024)

Parallel Context-of-Experts Decoding for Retrieval Augmented Generation
von: Corallo, Giulio, et al.
Veröffentlicht: (2026)

ParallelMuse: Agentic Parallel Thinking for Deep Information Seeking
von: Li, Baixuan, et al.
Veröffentlicht: (2025)

Skeleton-of-Thought: Prompting LLMs for Efficient Parallel Generation
von: Ning, Xuefei, et al.
Veröffentlicht: (2023)

ParallelComp: Parallel Long-Context Compressor for Length Extrapolation
von: Xiong, Jing, et al.
Veröffentlicht: (2025)

Performance-Driven Policy Optimization for Speculative Decoding with Adaptive Windowing
von: Jiang, Jie, et al.
Veröffentlicht: (2026)

ParallelSearch: Train your LLMs to Decompose Query and Search Sub-queries in Parallel with Reinforcement Learning
von: Zhao, Shu, et al.
Veröffentlicht: (2025)

Speculative Pipeline Decoding: Higher-Accruacy and Zero-Bubble Speculation via Pipeline Parallelism
von: Yu, Yijiong, et al.
Veröffentlicht: (2026)

Diagonal Batching Unlocks Parallelism in Recurrent Memory Transformers for Long Contexts
von: Sivtsov, Danil, et al.
Veröffentlicht: (2025)

Parallel-R1: Towards Parallel Thinking via Reinforcement Learning
von: Zheng, Tong, et al.
Veröffentlicht: (2025)