Zeroth-Order Optimization at the Edge of Stability
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Song, Minhak, Zhang, Liang, Li, Bingcong, He, Niao, Muehlebach, Michael, Oh, Sewoong |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Zeroth-Order Optimization Finds Flat Minima
par: Zhang, Liang, et autres
Publié: (2025)
par: Zhang, Liang, et autres
Publié: (2025)
DPZero: Private Fine-Tuning of Language Models without Backpropagation
par: Zhang, Liang, et autres
Publié: (2023)
par: Zhang, Liang, et autres
Publié: (2023)
Primal Methods for Variational Inequality Problems with Functional Constraints
par: Zhang, Liang, et autres
Publié: (2024)
par: Zhang, Liang, et autres
Publié: (2024)
On Constraints in First-Order Optimization: A View from Non-Smooth Dynamical Systems
par: Muehlebach, Michael, et autres
Publié: (2021)
par: Muehlebach, Michael, et autres
Publié: (2021)
Momentum Further Constrains Sharpness at the Edge of Stochastic Stability
par: Andreyev, Arseniy, et autres
Publié: (2026)
par: Andreyev, Arseniy, et autres
Publié: (2026)
Decision-Dependent Stochastic Optimization: The Role of Distribution Dynamics
par: He, Zhiyu, et autres
Publié: (2025)
par: He, Zhiyu, et autres
Publié: (2025)
On the Benefits of Weight Normalization for Overparameterized Matrix Sensing
par: Wei, Yudong, et autres
Publié: (2025)
par: Wei, Yudong, et autres
Publié: (2025)
On the Crucial Role of Initialization for Matrix Factorization
par: Li, Bingcong, et autres
Publié: (2024)
par: Li, Bingcong, et autres
Publié: (2024)
The Sample Complexity of Online Reinforcement Learning: A Multi-model Perspective
par: Muehlebach, Michael, et autres
Publié: (2025)
par: Muehlebach, Michael, et autres
Publié: (2025)
Stability properties of gradient flow dynamics for the symmetric low-rank matrix factorization problem
par: Mohammadi, Hesameddin, et autres
Publié: (2024)
par: Mohammadi, Hesameddin, et autres
Publié: (2024)
PoLAR: Polar-Decomposed Low-Rank Adapter Representation
par: Lion, Kai, et autres
Publié: (2025)
par: Lion, Kai, et autres
Publié: (2025)
Stability-Certified Learning of Control Systems with Quadratic Nonlinearities
par: Duff, Igor Pontes, et autres
Publié: (2024)
par: Duff, Igor Pontes, et autres
Publié: (2024)
Regularity and Stability Properties of Selective SSMs with Discontinuous Gating
par: Zubić, Nikola, et autres
Publié: (2025)
par: Zubić, Nikola, et autres
Publié: (2025)
Online Optimization and Ambiguity-based Learning of Distributionally Uncertain Dynamic Systems
par: Li, Dan, et autres
Publié: (2021)
par: Li, Dan, et autres
Publié: (2021)
Near-optimal Closed-loop Method via Lyapunov Damping for Convex Optimization
par: Maier, Severin, et autres
Publié: (2023)
par: Maier, Severin, et autres
Publié: (2023)
Nonlinear Dynamics In Optimization Landscape of Shallow Neural Networks with Tunable Leaky ReLU
par: Liu, Jingzhou
Publié: (2025)
par: Liu, Jingzhou
Publié: (2025)
Nonlinear Model Order Reduction of Dynamical Systems in Process Engineering: Review and Comparison
par: Schulze, Jan C., et autres
Publié: (2025)
par: Schulze, Jan C., et autres
Publié: (2025)
Accelerated First-Order Optimization under Nonlinear Constraints
par: Muehlebach, Michael, et autres
Publié: (2023)
par: Muehlebach, Michael, et autres
Publié: (2023)
Towards a Systems Theory of Algorithms
par: Dörfler, Florian, et autres
Publié: (2024)
par: Dörfler, Florian, et autres
Publié: (2024)
On Adaptivity in Zeroth-Order Optimization
par: Dbouk, Hassan, et autres
Publié: (2026)
par: Dbouk, Hassan, et autres
Publié: (2026)
Biased Stochastic First-Order Methods for Conditional Stochastic Optimization and Applications in Meta Learning
par: Hu, Yifan, et autres
Publié: (2020)
par: Hu, Yifan, et autres
Publié: (2020)
Safe and Robust Domains of Attraction for Discrete-Time Systems: A Set-Based Characterization and Certifiable Neural Network Estimation
par: Serry, Mohamed, et autres
Publié: (2026)
par: Serry, Mohamed, et autres
Publié: (2026)
SINDy-RL: Interpretable and Efficient Model-Based Reinforcement Learning
par: Zolman, Nicholas, et autres
Publié: (2024)
par: Zolman, Nicholas, et autres
Publié: (2024)
Data-driven Nonlinear Model Reduction using Koopman Theory: Integrated Control Form and NMPC Case Study
par: Schulze, Jan C., et autres
Publié: (2024)
par: Schulze, Jan C., et autres
Publié: (2024)
Near-Optimal Distributed Linear-Quadratic Regulator for Networked Systems
par: Shin, Sungho, et autres
Publié: (2022)
par: Shin, Sungho, et autres
Publié: (2022)
Learning Dissipative Neural Dynamical Systems
par: Xu, Yuezhu, et autres
Publié: (2023)
par: Xu, Yuezhu, et autres
Publié: (2023)
Tradeoffs between convergence rate and noise amplification for momentum-based accelerated optimization algorithms
par: Mohammadi, Hesameddin, et autres
Publié: (2022)
par: Mohammadi, Hesameddin, et autres
Publié: (2022)
Observability conditions for neural state-space models with eigenvalues and their roots of unity
par: Gracyk, Andrew
Publié: (2025)
par: Gracyk, Andrew
Publié: (2025)
Safely Learning Dynamical Systems
par: Ahmadi, Amir Ali, et autres
Publié: (2023)
par: Ahmadi, Amir Ali, et autres
Publié: (2023)
From exponential to finite/fixed-time stability: Applications to optimization
par: Ozaslan, Ibrahim K., et autres
Publié: (2024)
par: Ozaslan, Ibrahim K., et autres
Publié: (2024)
Neural Operators for Predictor Feedback Control of Nonlinear Delay Systems
par: Bhan, Luke, et autres
Publié: (2024)
par: Bhan, Luke, et autres
Publié: (2024)
Identifiability of Differential-Algebraic Systems
par: Montanari, Arthur N., et autres
Publié: (2024)
par: Montanari, Arthur N., et autres
Publié: (2024)
Distributed Optimization via Energy Conservation Laws in Dilated Coordinates
par: Baranwal, Mayank, et autres
Publié: (2024)
par: Baranwal, Mayank, et autres
Publié: (2024)
Asynchronous Distributed Reinforcement Learning for LQR Control via Zeroth-Order Block Coordinate Descent
par: Jing, Gangshan, et autres
Publié: (2021)
par: Jing, Gangshan, et autres
Publié: (2021)
From Adam to Adam-Like Lagrangians: Second-Order Nonlocal Dynamics
par: Heredia, Carlos
Publié: (2026)
par: Heredia, Carlos
Publié: (2026)
Evaluating the design space of diffusion-based generative models
par: Wang, Yuqing, et autres
Publié: (2024)
par: Wang, Yuqing, et autres
Publié: (2024)
Too Sharp, Too Sure: When Calibration Follows Curvature
par: Morosini, Alessandro, et autres
Publié: (2026)
par: Morosini, Alessandro, et autres
Publié: (2026)
The Global Empirical NTK: Self-Referential Bias and Dimensionality of Gradient Descent Learning
par: Hazelden, James, et autres
Publié: (2026)
par: Hazelden, James, et autres
Publié: (2026)
Convergence of optimizers implies eigenvalues filtering at equilibrium
par: Bolte, Jerome, et autres
Publié: (2025)
par: Bolte, Jerome, et autres
Publié: (2025)
Circular Microalgae-Based Carbon Control for Net Zero
par: Zocco, Federico, et autres
Publié: (2025)
par: Zocco, Federico, et autres
Publié: (2025)
Documents similaires
-
Zeroth-Order Optimization Finds Flat Minima
par: Zhang, Liang, et autres
Publié: (2025) -
DPZero: Private Fine-Tuning of Language Models without Backpropagation
par: Zhang, Liang, et autres
Publié: (2023) -
Primal Methods for Variational Inequality Problems with Functional Constraints
par: Zhang, Liang, et autres
Publié: (2024) -
On Constraints in First-Order Optimization: A View from Non-Smooth Dynamical Systems
par: Muehlebach, Michael, et autres
Publié: (2021) -
Momentum Further Constrains Sharpness at the Edge of Stochastic Stability
par: Andreyev, Arseniy, et autres
Publié: (2026)