Buchumschlag

Convergence in quadratic mean of averaged stochastic gradient algorithms without strong convexity nor bounded gradient

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Godichon-Baggioni, Antoine
Format:	Preprint
Veröffentlicht:	2021
Schlagworte:	Statistics Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Complexity reduction in online stochastic Newton methods with potential O(N d) total cost
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2026)

On Adaptive Stochastic Optimization for Streaming Data: A Newton's Method with O(dN) Operations
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2023)

A penalized criterion for selecting the number of clusters for K-medians
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2022)

A Full Adagrad algorithm with O(Nd) operations
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2024)

Stochastic Optimization in Semi-Discrete Optimal Transport: Convergence Analysis and Minimax Rate
von: Genans, Ferdinand, et al.
Veröffentlicht: (2025)

Online and Offline Robust Multivariate Linear Regression
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2024)

Convergence of Multi-Level Markov Chain Monte Carlo Adaptive Stochastic Gradient Algorithms
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2026)

Online estimation of the inverse of the Hessian for stochastic optimization with application to universal stochastic Newton algorithms
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2024)

kTULA: A Langevin sampling algorithm with improved KL bounds under super-linear log-gradients
von: Lytras, Iosif, et al.
Veröffentlicht: (2025)

Learning of deep convolutional network image classifiers via stochastic gradient descent and over-parametrization
von: Kohler, Michael, et al.
Veröffentlicht: (2024)

One-step corrected projected stochastic gradient descent for statistical estimation
von: Brouste, Alexandre, et al.
Veröffentlicht: (2023)

Universality of high-dimensional scaling limits of stochastic gradient descent
von: Gheissari, Reza, et al.
Veröffentlicht: (2025)

Constrained recursive kernel density/regression estimation by stochastic quasi-gradient methods
von: Norkin, Vladimir, et al.
Veröffentlicht: (2024)

Convergence of stochastic gradient descent schemes for Lojasiewicz-landscapes
von: Dereich, Steffen, et al.
Veröffentlicht: (2021)

Theoretical Convergence Guarantees for Variational Autoencoders
von: Surendran, Sobihan, et al.
Veröffentlicht: (2024)

Quantum natural gradient without monotonicity
von: Sasaki, Toi, et al.
Veröffentlicht: (2024)

A proximal gradient algorithm for composite log-concave sampling
von: Liu, Linghai, et al.
Veröffentlicht: (2026)

Uncertainty quantification by block bootstrap for differentially private stochastic gradient descent
von: Dette, Holger, et al.
Veröffentlicht: (2024)

Convergence of flow-based generative models via proximal gradient descent in Wasserstein space
von: Cheng, Xiuyuan, et al.
Veröffentlicht: (2023)

Asymptotic properties of adaptive designs through differentiability in quadratic mean
von: Christensen, Dennis, et al.
Veröffentlicht: (2023)

Theoretical analysis of phase-rectified signal averaging (PRSA) algorithm
von: Akahori, Jiro, et al.
Veröffentlicht: (2025)

Exact bounds for some quadratic empirical processes with applications
von: Han, Qiyang
Veröffentlicht: (2022)

Time-uniform concentration bounds for iterative algorithms
von: Pham, Tuan, et al.
Veröffentlicht: (2025)

Robust stochastic first order methods in heavy-tailed noise via medoid mini-batch gradient sampling
von: Vukovic, Manojlo, et al.
Veröffentlicht: (2026)

Distributional regression: CRPS-error bounds for model fitting, model selection and convex aggregation
von: Dombry, Clément, et al.
Veröffentlicht: (2024)

Error bounds of Median-of-means estimators with VC-dimension
von: Wang, Yuxuan, et al.
Veröffentlicht: (2024)

Generalized Fréchet means with random minimizing domains and its strong consistency
von: Park, Jaesung, et al.
Veröffentlicht: (2023)

On the rate of convergence of an over-parametrized deep neural network regression estimate learned by gradient descent
von: Kohler, Michael
Veröffentlicht: (2025)

Sliced gradient-enhanced Kriging for high-dimensional function approximation
von: Cheng, Kai, et al.
Veröffentlicht: (2022)

Spike-timing-dependent Hebbian learning as noisy gradient descent
von: Dexheimer, Niklas, et al.
Veröffentlicht: (2025)

Generalized FGM dependence: Geometrical representation and convex bounds on sums
von: Cossette, Hélène, et al.
Veröffentlicht: (2024)

Convergence guarantees for forward gradient descent in the linear regression model
von: Bos, Thijs, et al.
Veröffentlicht: (2023)

Non-asymptotic convergence bounds for modified tamed unadjusted Langevin algorithm in non-convex setting
von: Neufeld, Ariel, et al.
Veröffentlicht: (2022)

Absorbing state dynamics of stochastic gradient descent
von: Zhang, Guanming, et al.
Veröffentlicht: (2024)

Long-time dynamics and universality of nonconvex gradient descent
von: Han, Qiyang
Veröffentlicht: (2025)

Non-convex matrix sensing: Breaking the quadratic rank barrier in the sample complexity
von: Stöger, Dominik, et al.
Veröffentlicht: (2024)

Signal attenuation and phase evolution evaluation under the influence of nonlinear gradient
von: Xua, Chenghao, et al.
Veröffentlicht: (2025)

On the rate of convergence of an over-parametrized Transformer classifier learned by gradient descent
von: Kohler, Michael, et al.
Veröffentlicht: (2023)

Optimal sampling for stochastic and natural gradient descent
von: Gruhlke, Robert, et al.
Veröffentlicht: (2024)

Conjugate gradient methods for high-dimensional GLMMs
von: Pandolfi, Andrea, et al.
Veröffentlicht: (2024)