Buchumschlag

XGrammar: Flexible and Efficient Structured Generation Engine for Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Dong, Yixin, Ruan, Charlie F., Cai, Yaxing, Lai, Ruihang, Xu, Ziyi, Zhao, Yilong, Chen, Tianqi
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence Programming Languages
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

XGrammar-2: Efficient Dynamic Structured Generation Engine for Agentic LLMs
von: Li, Linzhang, et al.
Veröffentlicht: (2026)

Axe: A Simple Unified Layout Abstraction for Machine Learning Compilers
von: Hou, Bohan, et al.
Veröffentlicht: (2026)

SUQL: Conversational Search over Structured and Unstructured Data with Large Language Models
von: Liu, Shicheng, et al.
Veröffentlicht: (2023)

Event Tensor: A Unified Abstraction for Compiling Dynamic Megakernel
von: Jin, Hongyi, et al.
Veröffentlicht: (2026)

Leveraging Large Language Models for Generalizing Peephole Optimizations
von: Liao, Chunhao, et al.
Veröffentlicht: (2026)

APPL: A Prompt Programming Language for Harmonious Integration of Programs and Large Language Model Prompts
von: Dong, Honghua, et al.
Veröffentlicht: (2024)

Inferflow: an Efficient and Highly Configurable Inference Engine for Large Language Models
von: Shi, Shuming, et al.
Veröffentlicht: (2024)

A Large Language Model-based Framework for Semi-Structured Tender Document Retrieval-Augmented Generation
von: Zhao, Yilong, et al.
Veröffentlicht: (2024)

OpenCoder: The Open Cookbook for Top-Tier Code Large Language Models
von: Huang, Siming, et al.
Veröffentlicht: (2024)

LLMigrate: Transforming "Lazy" Large Language Models into Efficient Source Code Migrators
von: Liu, Yuchen, et al.
Veröffentlicht: (2025)

LPR: Large Language Models-Aided Program Reduction
von: Zhang, Mengxiao, et al.
Veröffentlicht: (2023)

LLM4Decompile: Decompiling Binary Code with Large Language Models
von: Tan, Hanzhuo, et al.
Veröffentlicht: (2024)

SGLang: Efficient Execution of Structured Language Model Programs
von: Zheng, Lianmin, et al.
Veröffentlicht: (2023)

Efficient Algorithms for Partial Constraint Satisfaction Problems over Control-flow Graphs
von: Cai, Xuran, et al.
Veröffentlicht: (2026)

Relax: Composable Abstractions for End-to-End Dynamic Machine Learning
von: Lai, Ruihang, et al.
Veröffentlicht: (2023)

Meaning Typed Prompting: A Technique for Efficient, Reliable Structured Output Generation
von: Irugalbandara, Chandra
Veröffentlicht: (2024)

Large Language Model Powered Symbolic Execution
von: Li, Yihe, et al.
Veröffentlicht: (2025)

Equality Saturation Guided by Large Language Models
von: Peng, Wentao, et al.
Veröffentlicht: (2025)

Skill-as-Pseudocode: Refactoring Skill Libraries to Pseudocode for LLM Agents
von: Li, Xinze, et al.
Veröffentlicht: (2026)

VRank: Enhancing Verilog Code Generation from Large Language Models via Self-Consistency
von: Zhao, Zhuorui, et al.
Veröffentlicht: (2025)

iScript: A Domain-Adapted Large Language Model and Benchmark for Physical Design Tcl Script Generation
von: Xu, Ning, et al.
Veröffentlicht: (2026)

Inductive Synthesis of Inductive Heap Predicates -- Extended Version
von: Yang, Ziyi, et al.
Veröffentlicht: (2025)

Deegen: A JIT-Capable VM Generator for Dynamic Languages
von: Xu, Haoran, et al.
Veröffentlicht: (2024)

LPO: Discovering Missed Peephole Optimizations with Large Language Models
von: Xu, Zhenyang, et al.
Veröffentlicht: (2025)

Semantic Source Code Segmentation using Small and Large Language Models
von: Dahou, Abdelhalim, et al.
Veröffentlicht: (2025)

Multimodal Generative Engine Optimization: Rank Manipulation for Vision-Language Model Rankers
von: Du, Yixuan, et al.
Veröffentlicht: (2026)

Compiling by Proving: Language-Agnostic Automatic Optimization from Formal Semantics
von: Zhao, Jianhong, et al.
Veröffentlicht: (2025)

BALI: Branch-Aware Loop Invariant Inference with Large Language Models
von: Wang, Mingxiu, et al.
Veröffentlicht: (2025)

Strengthening Programming Comprehension in Large Language Models through Code Generation
von: Ren, Xiaoning, et al.
Veröffentlicht: (2025)

Structured Prompt Language: Declarative Context Management for LLMs
von: Gong, Wen G.
Veröffentlicht: (2026)

Towards a Scalable Proof Engine: A Performant Prototype Rewriting Primitive for Coq
von: Gross, Jason, et al.
Veröffentlicht: (2023)

Fully Automated Generation of Combinatorial Optimisation Systems Using Large Language Models
von: Karapetyan, Daniel
Veröffentlicht: (2025)

SGL: A Structured Graphics Language
von: Chapman, Jon
Veröffentlicht: (2025)

AutoPyVerifier: Learning Compact Executable Verifiers for Large Language Model Outputs
von: Pezeshkpour, Pouya, et al.
Veröffentlicht: (2026)

Local Success Does Not Compose: Benchmarking Large Language Models for Compositional Formal Verification
von: Xu, Xu, et al.
Veröffentlicht: (2025)

CompilerGPT: Leveraging Large Language Models for Analyzing and Acting on Compiler Optimization Reports
von: Pirkelbauer, Peter, et al.
Veröffentlicht: (2025)

SuperCoder: Assembly Program Superoptimization with Large Language Models
von: Wei, Anjiang, et al.
Veröffentlicht: (2025)

What's in the Box: Ergonomic and Expressive Capture Tracking over Generic Data Structures (Extended Version)
von: Xu, Yichen, et al.
Veröffentlicht: (2025)

Optimizing High-Level Synthesis Designs with Retrieval-Augmented Large Language Models
von: Xu, Haocheng, et al.
Veröffentlicht: (2024)

Code Simulation Challenges for Large Language Models
von: La Malfa, Emanuele, et al.
Veröffentlicht: (2024)