Buchumschlag

Probing the Latent Hierarchical Structure of Data via Diffusion Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Sclocchi, Antonio, Favero, Alessandro, Levi, Noam Itzhak, Wyart, Matthieu
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Disordered Systems and Neural Networks
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Phase Transition in Diffusion Models Reveals the Hierarchical Nature of Data
von: Sclocchi, Antonio, et al.
Veröffentlicht: (2024)

Scaling Laws and Representation Learning in Simple Hierarchical Languages: Transformers vs. Convolutional Architectures
von: Cagnetta, Francesco, et al.
Veröffentlicht: (2025)

On the different regimes of Stochastic Gradient Descent
von: Sclocchi, Antonio, et al.
Veröffentlicht: (2023)

Sampling Data with Chains of Forward-Backward Diffusion Steps
von: Kang, Hyunmo, et al.
Veröffentlicht: (2026)

How Deep Networks Learn Sparse and Hierarchical Data: the Sparse Random Hierarchy Model
von: Tomasini, Umberto, et al.
Veröffentlicht: (2024)

Learning curves theory for hierarchically compositional data with power-law distributed features
von: Cagnetta, Francesco, et al.
Veröffentlicht: (2025)

Towards a theory of how the structure of language is acquired by deep neural networks
von: Cagnetta, Francesco, et al.
Veröffentlicht: (2024)

Learning Shrinks the Hard Tail: Training-Dependent Inference Scaling in a Solvable Linear Model
von: Levi, Noam
Veröffentlicht: (2026)

The Physics of Data and Tasks: Theories of Locality and Compositionality in Deep Learning
von: Favero, Alessandro
Veröffentlicht: (2025)

Deep networks learn to parse uniform-depth context-free languages from local statistics
von: Parley, Jack T., et al.
Veröffentlicht: (2026)

On the Emergence of Linear Analogies in Word Embeddings
von: Korchinski, Daniel J., et al.
Veröffentlicht: (2025)

Grokking in Linear Estimators -- A Solvable Model that Groks without Understanding
von: Levi, Noam, et al.
Veröffentlicht: (2023)

The Interplay of Data Structure and Imbalance in the Learning Dynamics of Diffusion Models
von: Nicoletti, Flavio, et al.
Veröffentlicht: (2026)

Symmetry in language statistics shapes the geometry of model representations
von: Karkada, Dhruva, et al.
Veröffentlicht: (2026)

The Underlying Scaling Laws and Universal Statistical Structure of Complex Datasets
von: Levi, Noam, et al.
Veröffentlicht: (2023)

Grokking at the Edge of Linear Separability
von: Beck, Alon, et al.
Veröffentlicht: (2024)

More Bang for the Buck: Improving the Inference of Large Language Models at a Fixed Budget using Reset and Discard (ReD)
von: Meir, Sagi, et al.
Veröffentlicht: (2026)

Theory of Speciation Transitions in Diffusion Models with General Class Structure
von: Achilli, Beatrice, et al.
Veröffentlicht: (2026)

Modeling Structured Data Learning with Restricted Boltzmann Machines in the Teacher-Student Setting
von: Thériault, Robin, et al.
Veröffentlicht: (2024)

Dynamical Regimes of Multimodal Diffusion Models
von: Albrychiewicz, Emil, et al.
Veröffentlicht: (2026)

Introduction to Latent Variable Energy-Based Models: A Path Towards Autonomous Machine Intelligence
von: Dawid, Anna, et al.
Veröffentlicht: (2023)

A Generative Diffusion Model for Amorphous Materials
von: Yang, Kai, et al.
Veröffentlicht: (2025)

Emergence of Distortions in High-Dimensional Guided Diffusion Models
von: Ventura, Enrico, et al.
Veröffentlicht: (2026)

Why Diffusion Models Don't Memorize: The Role of Implicit Dynamical Regularization in Training
von: Bonnaire, Tony, et al.
Veröffentlicht: (2025)

Exploring the Energy Landscape of RBMs: Reciprocal Space Insights into Bosons, Hierarchical Learning and Symmetry Breaking
von: Toledo-Marin, J. Quetzalcóatl, et al.
Veröffentlicht: (2025)

Deep Learning as Neural Low-Degree Filtering: A Spectral Theory of Hierarchical Feature Learning
von: Dandi, Yatin, et al.
Veröffentlicht: (2026)

Diffusion Operator Geometry of Feedforward Representations
von: Reddy, Kanishka
Veröffentlicht: (2026)

Short-range depinning in the presence of velocity-weakening
von: de Geus, Tom W. J., et al.
Veröffentlicht: (2024)

Controlled Langevin Dynamics for Sampling of Feedforward Neural Networks Trained with Minibatches
von: Zambon, Alessandro, et al.
Veröffentlicht: (2026)

Dynamical heterogeneities of thermal creep in pinned interfaces
von: de Geus, Tom W. J., et al.
Veröffentlicht: (2024)

Computational Thresholds in Multi-Modal Learning via the Spiked Matrix-Tensor Model
von: Tabanelli, Hugo, et al.
Veröffentlicht: (2025)

Neural Scaling Laws Rooted in the Data Distribution
von: Brill, Ari
Veröffentlicht: (2024)

Demystifying Spectral Bias on Real-World Data
von: Lavie, Itay, et al.
Veröffentlicht: (2024)

Kernel Renormalization in Bayesian Deep Neural Networks: the Equivalent Wishart Ansatz in the Proportional Regime
von: Baglioni, Paolo, et al.
Veröffentlicht: (2026)

Nonlocal Monte Carlo via Reinforcement Learning
von: Dobrynin, Dmitrii, et al.
Veröffentlicht: (2025)

Deep Linear Network Training Dynamics from Random Initialization: Data, Width, Depth, and Hyperparameter Transfer
von: Bordelon, Blake, et al.
Veröffentlicht: (2025)

The Quantization Model of Neural Scaling
von: Michaud, Eric J., et al.
Veröffentlicht: (2023)

High-Dimensional Limit of Stochastic Gradient Flow via Dynamical Mean-Field Theory
von: Nishiyama, Sota, et al.
Veröffentlicht: (2026)

Bigger Isn't Always Memorizing: Early Stopping Overparameterized Diffusion Models
von: Favero, Alessandro, et al.
Veröffentlicht: (2025)

Critical Phase Transition in Large Language Models
von: Nakaishi, Kai, et al.
Veröffentlicht: (2024)