Buchumschlag

Optimal Hessian/Jacobian-Free Nonconvex-PL Bilevel Optimization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Huang, Feihu
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Optimization and Control Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Enhanced Adaptive Gradient Algorithms for Nonconvex-PL Minimax Optimization
von: Huang, Feihu, et al.
Veröffentlicht: (2023)

Achieving ${O}(ε^{-1.5})$ Complexity in Hessian/Jacobian-free Stochastic Bilevel Optimization
von: Yang, Yifan, et al.
Veröffentlicht: (2023)

Online Nonconvex Bilevel Optimization with Bregman Divergences
von: Bohne, Jason, et al.
Veröffentlicht: (2024)

On the Complexity of Finding Stationary Points in Nonconvex Simple Bilevel Optimization
von: Cao, Jincheng, et al.
Veröffentlicht: (2025)

On Penalty Methods for Nonconvex Bilevel Optimization and First-Order Stochastic Approximation
von: Kwon, Jeongyeol, et al.
Veröffentlicht: (2023)

Communication-Efficient Federated Bilevel Optimization with Local and Global Lower Level Problems
von: Li, Junyi, et al.
Veröffentlicht: (2023)

Lower Complexity Bounds for Nonconvex-Strongly-Convex Bilevel Optimization with First-Order Oracles
von: Ji, Kaiyi
Veröffentlicht: (2025)

Adaptive Algorithms for Nonconvex Bilevel Optimization under PŁ Conditions
von: Shi, Xu, et al.
Veröffentlicht: (2025)

Problem-Parameter-Free Decentralized Bilevel Optimization
von: Zhai, Zhiwei, et al.
Veröffentlicht: (2025)

Moreau Envelope for Nonconvex Bi-Level Optimization: A Single-loop and Hessian-free Solution Strategy
von: Liu, Risheng, et al.
Veröffentlicht: (2024)

The Jacobian and Hessian of the Kullback-Leibler Divergence between Multivariate Gaussian Distributions (Technical Report)
von: Maroñas, Juan
Veröffentlicht: (2025)

Unlocking Global Optimality in Bilevel Optimization: A Pilot Study
von: Xiao, Quan, et al.
Veröffentlicht: (2024)

CLion: Efficient Cautious Lion Optimizer with Enhanced Generalization
von: Huang, Feihu, et al.
Veröffentlicht: (2026)

LiMuon: Light and Fast Muon Optimizer for Large Models
von: Huang, Feihu, et al.
Veröffentlicht: (2025)

Faster Gradient-Free Algorithms for Nonsmooth Nonconvex Stochastic Optimization
von: Chen, Lesi, et al.
Veröffentlicht: (2023)

Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
von: Wang, Menglian, et al.
Veröffentlicht: (2026)

Optimal Asynchronous Stochastic Nonconvex Optimization under Heavy-Tailed Noise
von: Wu, Yidong, et al.
Veröffentlicht: (2026)

Adaptive Federated Minimax Optimization with Lower Complexities
von: Huang, Feihu, et al.
Veröffentlicht: (2022)

Faster Adaptive Decentralized Learning Algorithms
von: Huang, Feihu, et al.
Veröffentlicht: (2024)

An Algorithm with Optimal Dimension-Dependence for Zero-Order Nonsmooth Nonconvex Stochastic Optimization
von: Kornowski, Guy, et al.
Veröffentlicht: (2023)

Bayesian Optimization of Bilevel Problems
von: Ekmekcioglu, Omer, et al.
Veröffentlicht: (2024)

On Stability in Optimistic Bilevel Optimization
von: Royset, Johannes O.
Veröffentlicht: (2024)

End-to-End Training of High-Dimensional Optimal Control with Implicit Hamiltonians via Jacobian-Free Backpropagation
von: Gelphman, Eric, et al.
Veröffentlicht: (2025)

Decentralized Sum-of-Nonconvex Optimization
von: Liu, Zhuanghua, et al.
Veröffentlicht: (2024)

Deterministic Nonsmooth Nonconvex Optimization
von: Jordan, Michael I., et al.
Veröffentlicht: (2023)

Provably Faster Algorithms for Bilevel Optimization via Without-Replacement Sampling
von: Li, Junyi, et al.
Veröffentlicht: (2024)

Zeroth-Order Methods for Stochastic Nonconvex Nonsmooth Composite Optimization
von: Chen, Ziyi, et al.
Veröffentlicht: (2025)

A Nearly Optimal Single Loop Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2024)

Nonconvex Stochastic Optimization under Heavy-Tailed Noises: Optimal Convergence without Gradient Clipping
von: Liu, Zijian, et al.
Veröffentlicht: (2024)

Nonconvex Optimization Framework for Group-Sparse Feedback Linear-Quadratic Optimal Control: Penalty Approach
von: Feng, Lechen, et al.
Veröffentlicht: (2025)

Safe Gradient Flow for Bilevel Optimization
von: Sharifi, Sina, et al.
Veröffentlicht: (2025)

Decentralized Bilevel Optimization: A Perspective from Transient Iteration Complexity
von: Kong, Boao, et al.
Veröffentlicht: (2024)

Improved Convergence Rates of Muon Optimizer for Nonconvex Optimization
von: Nagashima, Shuntaro, et al.
Veröffentlicht: (2026)

A Framework for Bilevel Optimization on Riemannian Manifolds
von: Han, Andi, et al.
Veröffentlicht: (2024)

Effective Bilevel Optimization via Minimax Reformulation
von: Wang, Xiaoyu, et al.
Veröffentlicht: (2023)

Nonconvex Optimization Framework for Group-Sparse Feedback Linear-Quadratic Optimal Control: Non-Penalty Approach
von: Feng, Lechen, et al.
Veröffentlicht: (2025)

Stochastic Smoothed Primal-Dual Algorithms for Nonconvex Optimization with Linear Inequality Constraints
von: Huang, Ruichuan, et al.
Veröffentlicht: (2025)

MiMuon: Mixed Muon Optimizer with Improved Generalization for Large Models
von: Huang, Feihu, et al.
Veröffentlicht: (2026)

Sequential QCQP for Bilevel Optimization with Line Search
von: Sharifi, Sina, et al.
Veröffentlicht: (2025)

HomeAdam: Adam and AdamW Algorithms Sometimes Go Home to Obtain Better Provable Generalization
von: Huang, Feihu, et al.
Veröffentlicht: (2026)