From Collapse to Improvement: Statistical Perspectives on the Evolutionary Dynamics of Iterative Training on Contaminated Sources

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Bakshi, Soham, Chakraborty, Sunrit
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Statistics Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

FLIPHAT: Joint Differential Privacy for High Dimensional Sparse Linear Bandits
von: Chakraborty, Sunrit, et al.
Veröffentlicht: (2024)

Selective Inference for Time-Varying Effect Moderation
von: Bakshi, Soham, et al.
Veröffentlicht: (2024)

Minimax Statistical Estimation under Wasserstein Contamination
von: Chao, Patrick, et al.
Veröffentlicht: (2023)

Learning Mixtures of Nonparametric and Convolutional Measures on Effectively Low-dimensional Affine Spaces
von: Chakraborty, Sunrit, et al.
Veröffentlicht: (2026)

A Statistical Analysis of Wasserstein Autoencoders for Intrinsically Low-dimensional Data
von: Chakraborty, Saptarshi, et al.
Veröffentlicht: (2024)

Stability and Accuracy Trade-offs in Statistical Estimation
von: Chakraborty, Abhinav, et al.
Veröffentlicht: (2026)

A Survey on Statistical Theory of Deep Learning: Approximation, Training Dynamics, and Generative Models
von: Suh, Namjoon, et al.
Veröffentlicht: (2024)

A Statistical Analysis for Supervised Deep Learning with Exponential Families for Intrinsically Low-dimensional Data
von: Chakraborty, Saptarshi, et al.
Veröffentlicht: (2024)

Can Generative Artificial Intelligence Survive Data Contamination? Theoretical Guarantees under Contaminated Recursive Training
von: Wang, Kevin, et al.
Veröffentlicht: (2026)

Source-Optimal Training is Transfer-Suboptimal
von: Hedges, C. Evans
Veröffentlicht: (2025)

Learning Topic Hierarchies by Tree-Directed Latent Variable Models
von: Chakraborty, Sunrit, et al.
Veröffentlicht: (2024)

On the Statistical Properties of Generative Adversarial Models for Low Intrinsic Data Dimension
von: Chakraborty, Saptarshi, et al.
Veröffentlicht: (2024)

On the Optimality of the Median-of-Means Estimator under Adversarial Contamination
von: de Juan, Xabier, et al.
Veröffentlicht: (2025)

A Statistical Analysis of Deep Federated Learning for Intrinsically Low-dimensional Data
von: Chakraborty, Saptarshi, et al.
Veröffentlicht: (2024)

On Reconstructing Training Data From Bayesian Posteriors and Trained Models
von: Wynne, George
Veröffentlicht: (2025)

Sharp asymptotic theory for Q-learning with LDTZ learning rate and its generalization
von: Bonnerjee, Soham, et al.
Veröffentlicht: (2026)

Sharp Gaussian approximations for Decentralized Federated Learning
von: Bonnerjee, Soham, et al.
Veröffentlicht: (2025)

Deep learning estimation of the spectral density of functional time series on large domains
von: Mohammadi, Neda, et al.
Veröffentlicht: (2026)

Dirichlet moment tensors and the correspondence between admixture and mixture of product models
von: Do, Dat, et al.
Veröffentlicht: (2025)

When Does Model Collapse Occur in Structured Interactive Learning?
von: Wu, Yuchen, et al.
Veröffentlicht: (2026)

Wasserstein Parallel Transport for Predicting the Dynamics of Statistical Systems
von: Saidi, Tristan Luca, et al.
Veröffentlicht: (2026)

Improving Minimax Estimation Rates for Contaminated Mixture of Multinomial Logistic Experts via Expert Heterogeneity
von: Yan, Fanqi, et al.
Veröffentlicht: (2026)

A Statistical Theory of Contrastive Learning via Approximate Sufficient Statistics
von: Lin, Licong, et al.
Veröffentlicht: (2025)

An Asymptotic Law of the Iterated Logarithm for $\mathrm{KL}_{\inf}$
von: Ram, Ashwin, et al.
Veröffentlicht: (2026)

Training Implicit Generative Models via an Invariant Statistical Loss
von: de Frutos, José Manuel, et al.
Veröffentlicht: (2024)

Robust Predictive Uncertainty and Double Descent in Contaminated Bayesian Random Features
von: Caprio, Michele, et al.
Veröffentlicht: (2026)

Statistical optimal transport
von: Chewi, Sinho, et al.
Veröffentlicht: (2024)

Statistical Inference in Tensor Completion: Optimal Uncertainty Quantification and Statistical-to-Computational Gaps
von: Ma, Wanteng, et al.
Veröffentlicht: (2024)

Unveiling the Cycloid Trajectory of EM Iterations in Mixed Linear Regression
von: Luo, Zhankun, et al.
Veröffentlicht: (2024)

Adjusted Expected Improvement for Cumulative Regret Minimization in Noisy Bayesian Optimization
von: Hu, Shouri, et al.
Veröffentlicht: (2022)

Statistical Inference under Performativity
von: Li, Xiang, et al.
Veröffentlicht: (2025)

Statistically guided deep learning
von: Kohler, Michael, et al.
Veröffentlicht: (2025)

Statistical and computational challenges in ranking
von: Carpentier, Alexandra, et al.
Veröffentlicht: (2025)

Heavy-tailed Contamination is Easier than Adversarial Contamination
von: Cherapanamjeri, Yeshwanth, et al.
Veröffentlicht: (2024)

Statistics of Min-max Normalized Eigenvalues in Random Matrices
von: Nakada, Hyakka, et al.
Veröffentlicht: (2025)

Statistical Learning Theory for Distributional Classification
von: Fiedler, Christian
Veröffentlicht: (2026)

Observable Geometry of Singular Statistical Models
von: Plummer, Sean
Veröffentlicht: (2026)

Statistical inference for pairwise comparison models
von: Han, Ruijian, et al.
Veröffentlicht: (2024)

Statistical Inverse Problems in Hilbert Scales
von: Rastogi, Abhishake
Veröffentlicht: (2022)

A Random Matrix Perspective of Echo State Networks: From Precise Bias--Variance Characterization to Optimal Regularization
von: Moakher, Yessin, et al.
Veröffentlicht: (2025)