Buchumschlag

Convergence of Two Time-Scale Stochastic Approximation: A Martingale Approach

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Vidyasagar, Mathukumalli
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Probability 90C26
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Stochastic Gradient Descent Revisited
von: Louzi, Azar
Veröffentlicht: (2024)

Optimal Asymptotic Rates for (Stochastic) Gradient Descent under the Local PL-Condition: A Geometric Approach
von: Kassing, Sebastian, et al.
Veröffentlicht: (2026)

A Generalized Version of Chung's Lemma and its Applications
von: Jiang, Li, et al.
Veröffentlicht: (2024)

A Normal Map-Based Proximal Stochastic Gradient Method: Convergence and Identification Properties
von: Qiu, Junwen, et al.
Veröffentlicht: (2023)

Scenario approach for minmax optimization with emphasis on the nonconvex case: positive results and caveats
von: K, Mishal Assif P, et al.
Veröffentlicht: (2019)

On the Convergence of Gradient Descent for Large Learning Rates
von: Crăciun, Alexandru, et al.
Veröffentlicht: (2024)

Convex Regularization and Convergence of Policy Gradient Flows under Safety Constraints
von: Malo, Pekka, et al.
Veröffentlicht: (2024)

An Algebraically Converging Stochastic Gradient Descent Algorithm for Global Optimization
von: Engquist, Björn, et al.
Veröffentlicht: (2022)

Estimating large causal polytrees from small samples
von: Chatterjee, Sourav, et al.
Veröffentlicht: (2022)

Convergence of Momentum-Based Optimization Algorithms with Time-Varying Parameters
von: Vidyasagar, Mathukumalli
Veröffentlicht: (2025)

Clust-Splitter - an Efficient Nonsmooth Optimization-Based Algorithm for Clustering Large Datasets
von: Lampainen, Jenni, et al.
Veröffentlicht: (2025)

Stochastic Control Methods for Optimization
von: Qiu, Jinniao
Veröffentlicht: (2026)

Convergence Conditions for Stochastic Line Search Based Optimization of Over-parametrized Models
von: Lapucci, Matteo, et al.
Veröffentlicht: (2024)

Stochastic First-Order Methods with Non-smooth and Non-Euclidean Proximal Terms for Nonconvex High-Dimensional Stochastic Optimization
von: Xie, Yue, et al.
Veröffentlicht: (2024)

Shuffling the Stochastic Mirror Descent via Dual Lipschitz Continuity and Kernel Conditioning
von: Qiu, Junwen, et al.
Veröffentlicht: (2026)

A Fisher-Rao gradient flow for entropy-regularised Markov decision processes in Polish spaces
von: Kerimkulov, Bekzhan, et al.
Veröffentlicht: (2023)

Step-Size Stability in Stochastic Optimization: A Theoretical Perspective
von: Schaipp, Fabian, et al.
Veröffentlicht: (2026)

Convergence of gradient descent for deep neural networks
von: Chatterjee, Sourav
Veröffentlicht: (2022)

Two trust region type algorithms for solving nonconvex-strongly concave minimax problems
von: Yao, Tongliang, et al.
Veröffentlicht: (2024)

Global Convergence of Sampling-Based Nonconvex Optimization through Diffusion-Style Smoothing
von: Yi, Zeji, et al.
Veröffentlicht: (2026)

What is the long-run distribution of stochastic gradient descent? A large deviations analysis
von: Azizian, Waïss, et al.
Veröffentlicht: (2024)

Exponential convergence rates for momentum stochastic gradient descent in the overparametrized setting
von: Gess, Benjamin, et al.
Veröffentlicht: (2023)

SPAM: Stochastic Proximal Point Method with Momentum Variance Reduction for Non-convex Cross-Device Federated Learning
von: Karagulyan, Avetik, et al.
Veröffentlicht: (2024)

Boosted Stochastic Frank-Wolfe for Constrained Nonconvex Optimization
von: Nandhan, Navil, et al.
Veröffentlicht: (2026)

A Semismooth Newton Stochastic Proximal Point Algorithm with Variance Reduction
von: Milzarek, Andre, et al.
Veröffentlicht: (2022)

Metric Entropy-Free Sample Complexity Bounds for Sample Average Approximation in Convex Stochastic Programming
von: Liu, Hongcheng, et al.
Veröffentlicht: (2024)

Taming Nonconvex Stochastic Mirror Descent with General Bregman Divergence
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2024)

Convergence of the Stochastic Heavy Ball Method With Approximate Gradients and/or Block Updating
von: Tadipatri, Uday Kiran Reddy, et al.
Veröffentlicht: (2023)

MoSSP: A Momentum-Based Single-Loop Stochastic Penalty Method for Nonconvex Constrained DC-Regularized Optimization
von: Li, Luxuan, et al.
Veröffentlicht: (2026)

A New Random Reshuffling Method for Nonsmooth Nonconvex Finite-sum Optimization
von: Qiu, Junwen, et al.
Veröffentlicht: (2023)

A KL-based Analysis Framework with Applications to Non-Descent Optimization Methods
von: Qiu, Junwen, et al.
Veröffentlicht: (2024)

A Fully Parameter-Free Second-Order Algorithm for Convex-Concave Minimax Problems
von: Wang, Junlin, et al.
Veröffentlicht: (2024)

Uniform-in-time mean-field limit estimate for the Consensus-Based Optimization
von: Huang, Hui, et al.
Veröffentlicht: (2024)

Policy Gradient Algorithms for Robust MDPs with Non-Rectangular Uncertainty Sets
von: Li, Mengmeng, et al.
Veröffentlicht: (2023)

Optimization without Retraction on the Random Generalized Stiefel Manifold
von: Vary, Simon, et al.
Veröffentlicht: (2024)

Mean-Field Langevin Diffusions with Density-dependent Temperature
von: Huang, Yu-Jui, et al.
Veröffentlicht: (2025)

Exact Convex Reformulations of Linear Neural Networks via Completely Positive Lifting
von: Prakhya, Karthik, et al.
Veröffentlicht: (2026)

Global Solutions to Non-Convex Functional Constrained Problems with Hidden Convexity
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2025)

Gradient Norm Regularization Second-Order Algorithms for Solving Nonconvex-Strongly Concave Minimax Problems
von: Wang, Jun-Lin, et al.
Veröffentlicht: (2024)

Semi-Supervised Clustering of Sparse Graphs: Crossing the Information-Theoretic Threshold
von: Sheng, Junda, et al.
Veröffentlicht: (2022)