Buchumschlag

Lookahead-then-Verify: Reliable Constrained Decoding for Diffusion LLMs under Context-Free Grammars

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Yitong, Li, Yongmin, Liu, Yuetong, Li, Jia, Jia, Xiaoran, Li, Zherui, Li, Ge
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

DiffuTester: Accelerating Unit Test Generation for Diffusion LLMs via Mining Structural Pattern
von: Yang, Lekang, et al.
Veröffentlicht: (2025)

Constrained Decoding of Diffusion LLMs with Context-Free Grammars
von: Mündler, Niels, et al.
Veröffentlicht: (2025)

Showing LLM-Generated Code Selectively Based on Confidence of LLMs
von: Li, Jia, et al.
Veröffentlicht: (2024)

Constrained Decoding with Speculative Lookaheads
von: Nakshatri, Nishanth, et al.
Veröffentlicht: (2024)

To See is Not to Master: Teaching LLMs to Use Private Libraries for Code Generation
von: Zhang, Yitong, et al.
Veröffentlicht: (2026)

Scaling Speculative Decoding with Lookahead Reasoning
von: Fu, Yichao, et al.
Veröffentlicht: (2025)

Flexible and Efficient Grammar-Constrained Decoding
von: Park, Kanghee, et al.
Veröffentlicht: (2025)

Copy-as-Decode: Grammar-Constrained Parallel Prefill for LLM Editing
von: Liu, Ziyang
Veröffentlicht: (2026)

Self-Filtered Distillation with LLMs-generated Trust Indicators for Reliable Patent Classification
von: Yoo, Yongmin, et al.
Veröffentlicht: (2025)

AdapTrack: Constrained Decoding without Distorting LLM's Output Intent
von: Li, Yongmin, et al.
Veröffentlicht: (2025)

LoPA: Scaling dLLM Inference via Lookahead Parallel Decoding
von: Xu, Chenkai, et al.
Veröffentlicht: (2025)

LongLLaDA: Unlocking Long Context Capabilities in Diffusion LLMs
von: Liu, Xiaoran, et al.
Veröffentlicht: (2025)

Don't Fine-Tune, Decode: Syntax Error-Free Tool Use via Constrained Decoding
von: Zhang, Kexun, et al.
Veröffentlicht: (2023)

Detecting and Explaining (In-)equivalence of Context-Free Grammars
von: Schmellenkamp, Marko, et al.
Veröffentlicht: (2024)

Can LLMs Help Create Grammar?: Automating Grammar Creation for Endangered Languages with In-Context Learning
von: Spencer, Piyapath T, et al.
Veröffentlicht: (2024)

Break the Sequential Dependency of LLM Inference Using Lookahead Decoding
von: Fu, Yichao, et al.
Veröffentlicht: (2024)

Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding
von: Zhou, Yigeng, et al.
Veröffentlicht: (2026)

ReFusion: A Diffusion Large Language Model with Parallel Autoregressive Decoding
von: Li, Jia-Nan, et al.
Veröffentlicht: (2025)

Evaluating In-Context Translation with Synchronous Context-Free Grammar Transduction
von: Petty, Jackson, et al.
Veröffentlicht: (2026)

ReAttention: Training-Free Infinite Context with Finite Attention Scope
von: Liu, Xiaoran, et al.
Veröffentlicht: (2024)

Grammar-Constrained Decoding for Structured NLP Tasks without Finetuning
von: Geng, Saibo, et al.
Veröffentlicht: (2023)

Sparse-dLLM: Accelerating Diffusion LLMs with Dynamic Cache Eviction
von: Song, Yuerong, et al.
Veröffentlicht: (2025)

Domain-Specific Shorthand for Generation Based on Context-Free Grammar
von: Kanyuka, Andriy, et al.
Veröffentlicht: (2024)

DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models
von: Li, Zherui, et al.
Veröffentlicht: (2025)

Automatic Generation of Python Programs Using Context-Free Grammars
von: Yamani, Kamel, et al.
Veröffentlicht: (2024)

ContextClaim: A Context-Driven Paradigm for Verifiable Claim Detection
von: Li, Yufeng, et al.
Veröffentlicht: (2026)

Dynamic Speculation Lookahead Accelerates Speculative Decoding of Large Language Models
von: Mamou, Jonathan, et al.
Veröffentlicht: (2024)

PSD: Pushing the Pareto Frontier of Diffusion LLMs via Parallel Speculative Decoding
von: Sun, Shengyin, et al.
Veröffentlicht: (2026)

Extending LLMs' Context Window with 100 Samples
von: Zhang, Yikai, et al.
Veröffentlicht: (2024)

HalluCana: Fixing LLM Hallucination with A Canary Lookahead
von: Li, Tianyi, et al.
Veröffentlicht: (2024)

Omni-Safety under Cross-Modality Conflict: Vulnerabilities, Dynamics Mechanisms and Efficient Alignment
von: Wang, Kun, et al.
Veröffentlicht: (2026)

Lookahead Tree-Based Rollouts for Enhanced Trajectory-Level Exploration in Reinforcement Learning with Verifiable Rewards
von: Xing, Shangyu, et al.
Veröffentlicht: (2025)

Diffusion-RSCC: Diffusion Probabilistic Model for Change Captioning in Remote Sensing Images
von: Yu, Xiaofei, et al.
Veröffentlicht: (2024)

The Lookahead Limitation: Why Multi-Operand Addition is Hard for LLMs
von: Baeumel, Tanja, et al.
Veröffentlicht: (2025)

SpecVLM: Enhancing Speculative Decoding of Video LLMs via Verifier-Guided Token Pruning
von: Ji, Yicheng, et al.
Veröffentlicht: (2025)

Factorization-Error-Free Discrete Diffusion Language Model via Speculative Decoding
von: Fang, Xun, et al.
Veröffentlicht: (2026)

Tree-Verifiable Graph Grammars
von: Chimes, Mark, et al.
Veröffentlicht: (2024)

Jailbreaking Large Language Diffusion Models: Revealing Hidden Safety Flaws in Diffusion-Based Text Generation
von: Zhang, Yuanhe, et al.
Veröffentlicht: (2025)

Grammar-Aligned Decoding
von: Park, Kanghee, et al.
Veröffentlicht: (2024)

Unraveling Syntax: How Language Models Learn Context-Free Grammars
von: Schulz, Laura Ying, et al.
Veröffentlicht: (2025)