Buchumschlag

Scaling Beyond Masked Diffusion Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Sahoo, Subham Sekhar, Lemercier, Jean-Marie, Yang, Zhihan, Deschenaux, Justin, Liu, Jingyu, Thickstun, John, Jukic, Ante
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Continuous Diffusion Scales Competitively with Discrete Diffusion for Language
von: Yang, Zhihan, et al.
Veröffentlicht: (2026)

The Diffusion Duality, Chapter II: $Ψ$-Samplers
von: Deschenaux, Justin, et al.
Veröffentlicht: (2026)

The Diffusion Duality
von: Sahoo, Subham Sekhar, et al.
Veröffentlicht: (2025)

DiLaDiff: Distilled Latent-Augmented Diffusion for Language Modeling
von: Lemercier, Jean-Marie, et al.
Veröffentlicht: (2026)

Simple and Effective Masked Diffusion Language Models
von: Sahoo, Subham Sekhar, et al.
Veröffentlicht: (2024)

Beyond Autoregression: Fast LLMs via Self-Distillation Through Time
von: Deschenaux, Justin, et al.
Veröffentlicht: (2024)

Discrete Diffusion for Generative Modeling of Text-Aligned Speech Tokens
von: Ku, Pin-Jui, et al.
Veröffentlicht: (2025)

Block Diffusion: Interpolating Between Autoregressive and Diffusion Language Models
von: Arriola, Marianne, et al.
Veröffentlicht: (2025)

Partition Generative Modeling: Masked Modeling Without Masks
von: Deschenaux, Justin, et al.
Veröffentlicht: (2025)

Remasking Discrete Diffusion Models with Inference-Time Scaling
von: Wang, Guanghan, et al.
Veröffentlicht: (2025)

Assessing Factual Music Comprehension in Large Audio Language Models
von: Lin, Daniel Chenyu, et al.
Veröffentlicht: (2025)

Robust Distortion-free Watermarks for Language Models
von: Kuditipudi, Rohith, et al.
Veröffentlicht: (2023)

Promises, Outlooks and Challenges of Diffusion Language Modeling
von: Deschenaux, Justin, et al.
Veröffentlicht: (2024)

BlockGen: Flexible Blockwise Sequence Modeling with Hybrid Samplers
von: Deschenaux, Justin, et al.
Veröffentlicht: (2026)

Diffusion Models With Learned Adaptive Noise
von: Sahoo, Subham Sekhar, et al.
Veröffentlicht: (2023)

Scaling up Masked Diffusion Models on Text
von: Nie, Shen, et al.
Veröffentlicht: (2024)

Diffusion-State Policy Optimization for Masked Diffusion Language Models
von: Oba, Daisuke, et al.
Veröffentlicht: (2026)

Improving Text Style Transfer using Masked Diffusion Language Models with Inference-time Scaling
von: Padole, Tejomay Kishor, et al.
Veröffentlicht: (2025)

Beyond Masks: Efficient, Flexible Diffusion Language Models via Deletion-Insertion Processes
von: Ding, Fangyu, et al.
Veröffentlicht: (2026)

Soft-Masked Diffusion Language Models
von: Hersche, Michael, et al.
Veröffentlicht: (2025)

Disentangling Latent Shifts of In-Context Learning with Weak Supervision
von: Jukić, Josip, et al.
Veröffentlicht: (2024)

DOS: Dependency-Oriented Sampler for Masked Diffusion Language Models
von: Zhou, Xueyu, et al.
Veröffentlicht: (2026)

Reconsidering Positional Supervision in Masked Diffusion Language Model Training
von: Ye, Mengyu, et al.
Veröffentlicht: (2026)

Expert-Choice Routing Enables Adaptive Computation in Diffusion Language Models
von: Zhang, Shuibai, et al.
Veröffentlicht: (2026)

Codec-ASR: Training Performant Automatic Speech Recognition Systems with Discrete Speech Representations
von: Dhawan, Kunal, et al.
Veröffentlicht: (2024)

Efficient-DLM: From Autoregressive to Diffusion Language Models, and Beyond in Speed
von: Fu, Yonggan, et al.
Veröffentlicht: (2025)

Diffusion Guided Language Modeling
von: Lovelace, Justin, et al.
Veröffentlicht: (2024)

On the Reasoning Abilities of Masked Diffusion Language Models
von: Svete, Anej, et al.
Veröffentlicht: (2025)

Not All Denoising Steps Are Equal: Model Scheduling for Faster Masked Diffusion Language Models
von: Sedykh, Ivan, et al.
Veröffentlicht: (2026)

Understanding and Accelerating the Training of Masked Diffusion Language Models
von: Hong, Chunsan, et al.
Veröffentlicht: (2026)

Tree Reward-Aligned Search for TReASURe in Masked Diffusion Language Models
von: Yu, Zichao, et al.
Veröffentlicht: (2025)

Wind Noise Reduction with a Diffusion-based Stochastic Regeneration Model
von: Lemercier, Jean-Marie, et al.
Veröffentlicht: (2023)

Loopholing Discrete Diffusion: Deterministic Bypass of the Sampling Wall
von: Jo, Mingyu, et al.
Veröffentlicht: (2025)

StoRM: A Diffusion-based Stochastic Regeneration Model for Speech Enhancement and Dereverberation
von: Lemercier, Jean-Marie, et al.
Veröffentlicht: (2022)

Seed Diffusion: A Large-Scale Diffusion Language Model with High-Speed Inference
von: Song, Yuxuan, et al.
Veröffentlicht: (2025)

DualDiffusion: A Speculative Decoding Strategy for Masked Diffusion Models
von: Goyal, Satyam, et al.
Veröffentlicht: (2026)

Variational Masked Diffusion Models
von: Zhang, Yichi, et al.
Veröffentlicht: (2025)

ExLM: Rethinking the Impact of [MASK] Tokens in Masked Language Models
von: Zheng, Kangjie, et al.
Veröffentlicht: (2025)

Masked Diffusion Models are Secretly Time-Agnostic Masked Models and Exploit Inaccurate Categorical Sampling
von: Zheng, Kaiwen, et al.
Veröffentlicht: (2024)

Faithfulness Measurable Masked Language Models
von: Madsen, Andreas, et al.
Veröffentlicht: (2023)