Buchumschlag

Optimization without Retraction on the Random Generalized Stiefel Manifold

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Vary, Simon, Ablin, Pierre, Gao, Bin, Absil, P. -A.
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Optimization and Control 90C26, 90C15
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A New Random Reshuffling Method for Nonsmooth Nonconvex Finite-sum Optimization
von: Qiu, Junwen, et al.
Veröffentlicht: (2023)

High Probability Guarantees for Random Reshuffling
von: Yu, Hengxu, et al.
Veröffentlicht: (2023)

A Normal Map-Based Proximal Stochastic Gradient Method: Convergence and Identification Properties
von: Qiu, Junwen, et al.
Veröffentlicht: (2023)

Stochastic First-Order Methods with Non-smooth and Non-Euclidean Proximal Terms for Nonconvex High-Dimensional Stochastic Optimization
von: Xie, Yue, et al.
Veröffentlicht: (2024)

A Generalized Version of Chung's Lemma and its Applications
von: Jiang, Li, et al.
Veröffentlicht: (2024)

Shuffling the Stochastic Mirror Descent via Dual Lipschitz Continuity and Kernel Conditioning
von: Qiu, Junwen, et al.
Veröffentlicht: (2026)

Taming Nonconvex Stochastic Mirror Descent with General Bregman Divergence
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2024)

Random Reshuffling with Momentum for Nonconvex Problems: Iteration Complexity and Last Iterate Convergence
von: Qiu, Junwen, et al.
Veröffentlicht: (2024)

Stochastic Gradient Descent Revisited
von: Louzi, Azar
Veröffentlicht: (2024)

New vector transport operators extending a Riemannian CG algorithm to generalized Stiefel manifold with low-rank applications
von: Wang, Xuejie, et al.
Veröffentlicht: (2023)

Boosted Stochastic Frank-Wolfe for Constrained Nonconvex Optimization
von: Nandhan, Navil, et al.
Veröffentlicht: (2026)

Tight Error Bounds for the Sign-Constrained Stiefel Manifold
von: Chen, Xiaojun, et al.
Veröffentlicht: (2022)

An Algebraically Converging Stochastic Gradient Descent Algorithm for Global Optimization
von: Engquist, Björn, et al.
Veröffentlicht: (2022)

A Stochastic Quasi-Newton Method in the Absence of Common Random Numbers
von: Menickelly, Matt, et al.
Veröffentlicht: (2023)

MoSSP: A Momentum-Based Single-Loop Stochastic Penalty Method for Nonconvex Constrained DC-Regularized Optimization
von: Li, Luxuan, et al.
Veröffentlicht: (2026)

Alternating Iteratively Reweighted $\ell_1$ and Subspace Newton Algorithms for Nonconvex Sparse Optimization
von: Wang, Hao, et al.
Veröffentlicht: (2024)

Policy Optimization over General State and Action Spaces
von: Ju, Caleb, et al.
Veröffentlicht: (2022)

On Tackling High-Dimensional Nonconvex Stochastic Optimization via Stochastic First-Order Methods with Non-smooth Proximal Terms and Variance Reduction
von: Xie, Yue, et al.
Veröffentlicht: (2025)

A Unifying Convexification Framework for Chance-Constrained Programs via Bilinear Extended Formulations over a Simplex
von: Davarnia, Danial, et al.
Veröffentlicht: (2025)

Extended Triangle Inequalities for Nonconvex Box-Constrained Quadratic Programming
von: Anstreicher, Kurt M., et al.
Veröffentlicht: (2025)

Improving Convergence Guarantees of Random Subspace Second-order Algorithm for Nonconvex Optimization
von: Higuchi, Rei, et al.
Veröffentlicht: (2024)

Natural Gradient VI: Guarantees for Non-Conjugate Models
von: Sun, Fangyuan, et al.
Veröffentlicht: (2025)

A Complete Loss Landscape Analysis of Regularized Deep Matrix Factorization
von: Chen, Po, et al.
Veröffentlicht: (2025)

A KL-based Analysis Framework with Applications to Non-Descent Optimization Methods
von: Qiu, Junwen, et al.
Veröffentlicht: (2024)

Stochastic Optimization under Hidden Convexity
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2023)

BattOpt: Optimal Facility Planning for Electric Vehicle Battery Recycling
von: Brun, Matthew, et al.
Veröffentlicht: (2024)

Globalized Adversarial Regret Optimization: Robust Decisions with Uncalibrated Predictions
von: Kurtz, Jannis, et al.
Veröffentlicht: (2026)

SUDA-Muon: Structural Design Principles and Boundaries for Fully Decentralized Muon
von: Zhang, Hengrui, et al.
Veröffentlicht: (2026)

Application and issues in abstract convexity
von: Millán, Reinier Díaz, et al.
Veröffentlicht: (2022)

Policy Gradient Algorithms for Robust MDPs with Non-Rectangular Uncertainty Sets
von: Li, Mengmeng, et al.
Veröffentlicht: (2023)

Two trust region type algorithms for solving nonconvex-strongly concave minimax problems
von: Yao, Tongliang, et al.
Veröffentlicht: (2024)

Gradient Norm Regularization Second-Order Algorithms for Solving Nonconvex-Strongly Concave Minimax Problems
von: Wang, Jun-Lin, et al.
Veröffentlicht: (2024)

A Fully Parameter-Free Second-Order Algorithm for Convex-Concave Minimax Problems
von: Wang, Junlin, et al.
Veröffentlicht: (2024)

Global Solutions to Non-Convex Functional Constrained Problems with Hidden Convexity
von: Fatkhullin, Ilyas, et al.
Veröffentlicht: (2025)

Exact Convex Reformulations of Linear Neural Networks via Completely Positive Lifting
von: Prakhya, Karthik, et al.
Veröffentlicht: (2026)

Fully First-Order Methods for Decentralized Bilevel Optimization
von: Wang, Xiaoyu, et al.
Veröffentlicht: (2024)

An Inexact Halpern Iteration with Application to Distributionally Robust Optimization
von: Liang, Ling, et al.
Veröffentlicht: (2024)

ZOBA: An Efficient Single-loop Zeroth-order Bilevel Optimization Algorithm
von: Rando, Marco, et al.
Veröffentlicht: (2026)

Convergence Rate of a Functional Learning Method for Contextual Stochastic Optimization
von: Smith, Noel, et al.
Veröffentlicht: (2026)

Variance-reduced first-order methods for deterministically constrained stochastic nonconvex optimization with strong convergence guarantees
von: Lu, Zhaosong, et al.
Veröffentlicht: (2024)