Buchumschlag

TRSVR: An Adaptive Stochastic Trust-Region Method with Variance Reduction

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Fang, Yuchen, Zheng, Xinshou, Lavaei, Javad
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Optimization and Control Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Trust-Region Stochastic Optimization with Variance Reduction Technique
von: Zheng, Xinshou
Veröffentlicht: (2024)

A Trust-Region Interior-Point Stochastic Sequential Quadratic Programming Method
von: Fang, Yuchen, et al.
Veröffentlicht: (2026)

High Probability Complexity Bounds of Trust-Region Stochastic Sequential Quadratic Programming with Heavy-Tailed Noise
von: Fang, Yuchen, et al.
Veröffentlicht: (2025)

Why is Normalization Preferred? A Worst-Case Complexity Theory for Stochastically Preconditioned SGD under Heavy-Tailed Noise
von: Fang, Yuchen, et al.
Veröffentlicht: (2026)

Policy-based Primal-Dual Methods for Concave CMDP with Variance Reduction
von: Ying, Donghao, et al.
Veröffentlicht: (2022)

3DGS$^2$-TR: Scalable Second-Order Trust-Region Method for 3D Gaussian Splatting
von: Hsiao, Roger, et al.
Veröffentlicht: (2026)

Adaptive Variance Reduction for Stochastic Optimization under Weaker Assumptions
von: Jiang, Wei, et al.
Veröffentlicht: (2024)

Fully Stochastic Trust-Region Sequential Quadratic Programming for Equality-Constrained Optimization Problems
von: Fang, Yuchen, et al.
Veröffentlicht: (2022)

Stochastic Trust-Region Methods for Over-parameterized Models
von: Yang, Aike, et al.
Veröffentlicht: (2026)

Breaking the Stochasticity Barrier: An Adaptive Variance-Reduced Method for Variational Inequalities
von: Jeong, Yungi, et al.
Veröffentlicht: (2026)

Stochastic Gradient Langevin Dynamics with Variance Reduction
von: Huang, Zhishen, et al.
Veröffentlicht: (2021)

Variance Reduction and Low Sample Complexity in Stochastic Optimization via Proximal Point Method
von: Liang, Jiaming
Veröffentlicht: (2024)

Projection-Free Variance Reduction Methods for Stochastic Constrained Multi-Level Compositional Optimization
von: Jiang, Wei, et al.
Veröffentlicht: (2024)

Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models
von: Fang, Yuchen, et al.
Veröffentlicht: (2024)

Gradient Estimation and Variance Reduction in Stochastic and Deterministic Models
von: Keane, Ronan
Veröffentlicht: (2024)

Adaptive Replication Strategies in Trust-Region-Based Bayesian Optimization of Stochastic Functions
von: Binois, Mickael, et al.
Veröffentlicht: (2025)

Subgradient Method for System Identification with Non-Smooth Objectives
von: Yalcin, Baturalp, et al.
Veröffentlicht: (2025)

Infeasible Deterministic, Stochastic, and Variance-Reduction Algorithms for Optimization under Orthogonality Constraints
von: Ablin, Pierre, et al.
Veröffentlicht: (2023)

Unified Convergence Theory of Stochastic and Variance-Reduced Cubic Newton Methods
von: Chayti, El Mahdi, et al.
Veröffentlicht: (2023)

An Inexact Weighted Proximal Trust-Region Method
von: Maia, Leandro Farias, et al.
Veröffentlicht: (2026)

On the Stochastic (Variance-Reduced) Proximal Gradient Method for Regularized Expected Reward Optimization
von: Liang, Ling, et al.
Veröffentlicht: (2024)

Absence of spurious solutions far from ground truth: A low-rank analysis with high-order losses
von: Ma, Ziye, et al.
Veröffentlicht: (2024)

Variance Reduction Methods Do Not Need to Compute Full Gradients: Improved Efficiency through Shuffling
von: Medyakov, Daniil, et al.
Veröffentlicht: (2025)

Muon is Provably Faster with Momentum Variance Reduction
von: Qian, Xun, et al.
Veröffentlicht: (2025)

Towards Weaker Variance Assumptions for Stochastic Optimization
von: Alacaoglu, Ahmet, et al.
Veröffentlicht: (2025)

Exact Recovery for System Identification with More Corrupt Data than Clean Data
von: Yalcin, Baturalp, et al.
Veröffentlicht: (2023)

MARS-M: When Variance Reduction Meets Matrices
von: Liu, Yifeng, et al.
Veröffentlicht: (2025)

Decentralized Non-convex Stochastic Optimization with Heterogeneous Variance
von: Chen, Hongxu, et al.
Veröffentlicht: (2026)

A Non-Monotone Preconditioned Trust-Region Method for Neural Network Training
von: Angino, Andrea, et al.
Veröffentlicht: (2026)

SPAM: Stochastic Proximal Point Method with Momentum Variance Reduction for Non-convex Cross-Device Federated Learning
von: Karagulyan, Avetik, et al.
Veröffentlicht: (2024)

MARS: Unleashing the Power of Variance Reduction for Training Large Models
von: Yuan, Huizhuo, et al.
Veröffentlicht: (2024)

Solving Stochastic Variational Inequalities without the Bounded Variance Assumption
von: Alacaoglu, Ahmet, et al.
Veröffentlicht: (2026)

Variance-Aware Regret Bounds for Stochastic Contextual Dueling Bandits
von: Di, Qiwei, et al.
Veröffentlicht: (2023)

A Regularized Online Newton Method for Stochastic Convex Bandits with Linear Vanishing Noise
von: Zhan, Jingxin, et al.
Veröffentlicht: (2025)

Efficient Sign-Based Optimization: Accelerating Convergence via Variance Reduction
von: Jiang, Wei, et al.
Veröffentlicht: (2024)

VAMO: Efficient Zeroth-Order Variance Reduction for SGD with Faster Convergence
von: Chen, Jiahe, et al.
Veröffentlicht: (2025)

Adaptive Optimization via Momentum on Variance-Normalized Gradients
von: Patitucci, Francisco, et al.
Veröffentlicht: (2026)

LAGO: A Local-Global Optimization Framework Combining Trust Region Methods and Bayesian Optimization
von: Van Dieren, Eliott, et al.
Veröffentlicht: (2026)

Beyond Bounded Variance: Variance-Reduced Normalized Methods for Nonconvex Optimization under Blum-Gladyshev Noise
von: Upadhyay, Antesh, et al.
Veröffentlicht: (2026)

An Adaptive Stochastic Gradient Method with Non-negative Gauss-Newton Stepsizes
von: Orvieto, Antonio, et al.
Veröffentlicht: (2024)