Buchumschlag

Singular-limit analysis of gradient descent with noise injection

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Shalova, Anna, Schlichting, André, Peletier, Mark
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Probability
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Solutions of stationary McKean-Vlasov equation on a high-dimensional sphere and other Riemannian manifolds
von: Shalova, Anna, et al.
Veröffentlicht: (2024)

Random Quadratic Form on a Sphere: Synchronization by Common Noise
von: Engel, Maximilian, et al.
Veröffentlicht: (2026)

Universality of high-dimensional scaling limits of stochastic gradient descent
von: Gheissari, Reza, et al.
Veröffentlicht: (2025)

Spectral alignment of stochastic gradient descent for high-dimensional classification tasks
von: Arous, Gerard Ben, et al.
Veröffentlicht: (2023)

A stochastic gradient descent algorithm with random search directions
von: Gbaguidi, Eméric
Veröffentlicht: (2025)

Nonlinear diffusion limit of non-local interactions on a sphere
von: Peletier, Mark A., et al.
Veröffentlicht: (2025)

Convergence rates for gradient descent in the training of overparameterized artificial neural networks with piecewise affine activation
von: Jentzen, Arnulf, et al.
Veröffentlicht: (2021)

Linear convergence of proximal descent schemes on the Wasserstein space
von: Lascu, Razvan-Andrei, et al.
Veröffentlicht: (2024)

Fast Spawn\&Prune (FS\&P): Global convergence of stochastic conic particle gradient descent via birth/death process
von: De Castro, Yohann, et al.
Veröffentlicht: (2026)

Convergence of gradient descent for deep neural networks
von: Chatterjee, Sourav
Veröffentlicht: (2022)

Stochastic gradient descent in high dimensions for multi-spiked tensor PCA
von: Arous, Gérard Ben, et al.
Veröffentlicht: (2024)

Long-time asymptotics of noisy SVGD outside the population limit
von: Priser, Victor, et al.
Veröffentlicht: (2024)

Student-t processes as infinite-width limits of posterior Bayesian neural networks
von: Caporali, Francesco, et al.
Veröffentlicht: (2025)

Matrices with Gaussian noise: optimal estimates for singular subspace perturbation
von: O'Rourke, Sean, et al.
Veröffentlicht: (2018)

Non-asymptotic convergence analysis of the stochastic gradient Hamiltonian Monte Carlo algorithm with discontinuous stochastic gradient with applications to training of ReLU neural networks
von: Liang, Luxu, et al.
Veröffentlicht: (2024)

Convergence of stochastic gradient descent schemes for Lojasiewicz-landscapes
von: Dereich, Steffen, et al.
Veröffentlicht: (2021)

Stochastic Inverse Problem: stability, regularization and Wasserstein gradient flow
von: Li, Qin, et al.
Veröffentlicht: (2024)

Diffusive transport on the real line: semi-contractive gradient flows and their discretization
von: Matthes, Daniel, et al.
Veröffentlicht: (2025)

The generator gradient estimator is an adjoint state method for stochastic differential equations
von: Badolle, Quentin, et al.
Veröffentlicht: (2024)

On propagation of chaos for the Fisher-Rao gradient flow in entropic mean-field optimization
von: Lazić, Petra, et al.
Veröffentlicht: (2026)

Statistical limits of correlation detection in trees
von: Ganassali, Luca, et al.
Veröffentlicht: (2022)

A Fisher-Rao gradient flow for entropic mean-field min-max games
von: Lascu, Razvan-Andrei, et al.
Veröffentlicht: (2024)

A Unifying Perspective on Non-Stationary Kernels for Deeper Gaussian Processes
von: Noack, Marcus M., et al.
Veröffentlicht: (2023)

Exponential convergence rates for momentum stochastic gradient descent in the overparametrized setting
von: Gess, Benjamin, et al.
Veröffentlicht: (2023)

Stochastic neighborhood embedding and the gradient flow of relative entropy
von: Weinkove, Ben
Veröffentlicht: (2024)

Parameter uncertainties for imperfect surrogate models in the low-noise regime
von: Swinburne, Thomas D, et al.
Veröffentlicht: (2024)

User-friendly guarantees for the Langevin Monte Carlo with inaccurate gradient
von: Dalalyan, Arnak S., et al.
Veröffentlicht: (2017)

A simple algorithm for output range analysis for deep neural networks
von: Rojas, Helder, et al.
Veröffentlicht: (2024)

Machine learning-based system reliability analysis with Gaussian Process Regression
von: Zhou, Lisang, et al.
Veröffentlicht: (2024)

A multiscale analysis of mean-field transformers in the moderate interaction regime
von: Bruno, Giuseppe, et al.
Veröffentlicht: (2025)

Effective continuous equations for adaptive SGD: a stochastic analysis view
von: Callisti, Luca, et al.
Veröffentlicht: (2025)

What is the long-run distribution of stochastic gradient descent? A large deviations analysis
von: Azizian, Waïss, et al.
Veröffentlicht: (2024)

kTULA: A Langevin sampling algorithm with improved KL bounds under super-linear log-gradients
von: Lytras, Iosif, et al.
Veröffentlicht: (2025)

Covariance-modulated optimal transport and gradient flows
von: Burger, Martin, et al.
Veröffentlicht: (2023)

Discovering and Analyzing Stochastic Processes to Reduce Waste in Food Retail
von: Kalenkova, Anna, et al.
Veröffentlicht: (2025)

The graph alignment problem: fundamental limits and efficient algorithms
von: Ganassali, Luca
Veröffentlicht: (2024)

Samplet limits and multiwavelets
von: Giacchi, Gianluca, et al.
Veröffentlicht: (2026)

Interacting Particle Langevin Algorithm for Maximum Marginal Likelihood Estimation
von: Akyildiz, Ö. Deniz, et al.
Veröffentlicht: (2023)

Representative Action Selection for Large Action Space Bandit Families
von: Zhou, Quan, et al.
Veröffentlicht: (2025)

Universal approximation with signatures of non-geometric rough paths
von: Ceylan, Mihriban, et al.
Veröffentlicht: (2026)