Copertina

Decentralized Bilevel Optimization: A Perspective from Transient Iteration Complexity

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Kong, Boao, Zhu, Shuchen, Lu, Songtao, Huang, Xinmeng, Yuan, Kun
Natura:	Preprint
Pubblicazione:	2024
Soggetti:	Optimization and Control Machine Learning
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

SPARKLE: A Unified Single-Loop Primal-Dual Framework for Decentralized Bilevel Optimization
di: Zhu, Shuchen, et al.
Pubblicazione: (2024)

Distributed Bilevel Optimization with Communication Compression
di: He, Yutong, et al.
Pubblicazione: (2024)

On the Convergence of Stochastic Gradient Descent with Perturbed Forward-Backward Passes
di: Kong, Boao, et al.
Pubblicazione: (2026)

BROS: Bias-Corrected Randomized Subspaces for Memory-Efficient Single-Loop Bilevel Optimization
di: Zhang, Hengrui, et al.
Pubblicazione: (2026)

Clapping: Removing Per-sample Storage for Pipeline Parallel Distributed Optimization with Communication Compression
di: Kong, Boao, et al.
Pubblicazione: (2025)

Bilevel Optimization over Saddle Points of Zero-Sum Markov Games
di: Zheng, Zihao, et al.
Pubblicazione: (2026)

Problem-Parameter-Free Decentralized Bilevel Optimization
di: Zhai, Zhiwei, et al.
Pubblicazione: (2025)

Momentum Benefits Non-IID Federated Learning Simply and Provably
di: Cheng, Ziheng, et al.
Pubblicazione: (2023)

Unbiased Compression Saves Communication in Distributed Optimization: When and How Much?
di: He, Yutong, et al.
Pubblicazione: (2023)

On the Complexity of First-Order Methods in Stochastic Bilevel Optimization
di: Kwon, Jeongyeol, et al.
Pubblicazione: (2024)

Subspace Optimization for Efficient Federated Learning under Heterogeneous Data
di: Zhu, Shuchen, et al.
Pubblicazione: (2026)

On the Complexity of Finding Stationary Points in Nonconvex Simple Bilevel Optimization
di: Cao, Jincheng, et al.
Pubblicazione: (2025)

A Mathematics-Inspired Learning-to-Optimize Framework for Decentralized Optimization
di: He, Yutong, et al.
Pubblicazione: (2024)

Optimal Hessian/Jacobian-Free Nonconvex-PL Bilevel Optimization
di: Huang, Feihu
Pubblicazione: (2024)

A Single-Loop Algorithm for Decentralized Bilevel Optimization
di: Dong, Youran, et al.
Pubblicazione: (2023)

Heavy-Tail Phenomenon in Decentralized SGD
di: Gurbuzbalaban, Mert, et al.
Pubblicazione: (2022)

Bayesian Optimization of Bilevel Problems
di: Ekmekcioglu, Omer, et al.
Pubblicazione: (2024)

Understanding the Influence of Digraphs on Decentralized Optimization: Effective Metrics, Lower Bound, and Optimal Algorithm
di: Liang, Liyuan, et al.
Pubblicazione: (2023)

GNMR: Runtime Stability Control for Low-Precision Large Language Model Training
di: Kong, Boao, et al.
Pubblicazione: (2026)

On Stability in Optimistic Bilevel Optimization
di: Royset, Johannes O.
Pubblicazione: (2024)

Lower Complexity Bounds for Nonconvex-Strongly-Convex Bilevel Optimization with First-Order Oracles
di: Ji, Kaiyi
Pubblicazione: (2025)

A First-order Generative Bilevel Optimization Framework for Diffusion Models
di: Xiao, Quan, et al.
Pubblicazione: (2025)

Provably Faster Algorithms for Bilevel Optimization via Without-Replacement Sampling
di: Li, Junyi, et al.
Pubblicazione: (2024)

A Framework for Bilevel Optimization on Riemannian Manifolds
di: Han, Andi, et al.
Pubblicazione: (2024)

Lower Bounds and Accelerated Algorithms in Distributed Stochastic Optimization with Communication Compression
di: He, Yutong, et al.
Pubblicazione: (2023)

Causal-Aware Foundation-Model for Bilevel Optimization in Discrete Choice Settings
di: Subramanian, Shivaram, et al.
Pubblicazione: (2026)

Achieving ${O}(ε^{-1.5})$ Complexity in Hessian/Jacobian-free Stochastic Bilevel Optimization
di: Yang, Yifan, et al.
Pubblicazione: (2023)

Safe Gradient Flow for Bilevel Optimization
di: Sharifi, Sina, et al.
Pubblicazione: (2025)

On the Complexity of Decentralized Smooth Nonconvex Finite-Sum Optimization
di: Luo, Luo, et al.
Pubblicazione: (2022)

A Bilevel Optimization Framework for Imbalanced Data Classification
di: Medlin, Karen, et al.
Pubblicazione: (2024)

Nonsmooth Nonconvex-Nonconcave Minimax Optimization: Primal-Dual Balancing and Iteration Complexity Analysis
di: Li, Jiajin, et al.
Pubblicazione: (2022)

Online Nonconvex Bilevel Optimization with Bregman Divergences
di: Bohne, Jason, et al.
Pubblicazione: (2024)

Effective Bilevel Optimization via Minimax Reformulation
di: Wang, Xiaoyu, et al.
Pubblicazione: (2023)

A Single-Loop Gradient Descent and Perturbed Ascent Algorithm for Nonconvex Functional Constrained Optimization
di: Lu, Songtao
Pubblicazione: (2022)

Sequential QCQP for Bilevel Optimization with Line Search
di: Sharifi, Sina, et al.
Pubblicazione: (2025)

Unlocking Global Optimality in Bilevel Optimization: A Pilot Study
di: Xiao, Quan, et al.
Pubblicazione: (2024)

First-Order Methods for Linearly Constrained Bilevel Optimization
di: Kornowski, Guy, et al.
Pubblicazione: (2024)

Fully First-Order Algorithms for Online Bilevel Optimization
di: Jia, Tingkai, et al.
Pubblicazione: (2026)

Exploring the Potential of Bilevel Optimization for Calibrating Neural Networks
di: Sanguin, Gabriele, et al.
Pubblicazione: (2025)

qNBO: quasi-Newton Meets Bilevel Optimization
di: Fang, Sheng, et al.
Pubblicazione: (2025)