Stepsize Hedging: an Alternative Mechanism for Accelerating Gradient Descent
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Altschuler, Jason M., Parrilo, Pablo A. |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Acceleration by Stepsize Hedging I: Multi-Step Descent and the Silver Stepsize Schedule
von: Altschuler, Jason M., et al.
Veröffentlicht: (2023)
von: Altschuler, Jason M., et al.
Veröffentlicht: (2023)
Acceleration by Random Stepsizes: Hedging, Equalization, and the Arcsine Stepsize Schedule
von: Altschuler, Jason M., et al.
Veröffentlicht: (2024)
von: Altschuler, Jason M., et al.
Veröffentlicht: (2024)
Accelerating Proximal Gradient Descent via Silver Stepsizes
von: Bok, Jinho, et al.
Veröffentlicht: (2024)
von: Bok, Jinho, et al.
Veröffentlicht: (2024)
Negative Stepsizes Make Gradient-Descent-Ascent Converge
von: Shugart, Henry, et al.
Veröffentlicht: (2025)
von: Shugart, Henry, et al.
Veröffentlicht: (2025)
Acceleration by Stepsize Hedging II: Silver Stepsize Schedule for Smooth Convex Optimization
von: Altschuler, Jason M., et al.
Veröffentlicht: (2023)
von: Altschuler, Jason M., et al.
Veröffentlicht: (2023)
Optimized methods for composite optimization: a reduction perspective
von: Bok, Jinho, et al.
Veröffentlicht: (2025)
von: Bok, Jinho, et al.
Veröffentlicht: (2025)
Min-Max Optimization Is Strictly Easier Than Variational Inequalities
von: Shugart, Henry, et al.
Veröffentlicht: (2025)
von: Shugart, Henry, et al.
Veröffentlicht: (2025)
Negative Momentum for Convex-Concave Optimization
von: Shugart, Henry, et al.
Veröffentlicht: (2026)
von: Shugart, Henry, et al.
Veröffentlicht: (2026)
Near-Linear Runtime for a Classical Matrix Preconditioning Algorithm
von: Cai, Xufeng, et al.
Veröffentlicht: (2025)
von: Cai, Xufeng, et al.
Veröffentlicht: (2025)
Online Bilevel Optimization: Regret Analysis of Online Alternating Gradient Methods
von: Tarzanagh, Davoud Ataee, et al.
Veröffentlicht: (2022)
von: Tarzanagh, Davoud Ataee, et al.
Veröffentlicht: (2022)
Balancing Gradient and Hessian Queries in Non-Convex Optimization
von: Adil, Deeksha, et al.
Veröffentlicht: (2025)
von: Adil, Deeksha, et al.
Veröffentlicht: (2025)
Deriving the Gradients of Some Popular Optimal Transport Algorithms
von: Xie, Fangzhou
Veröffentlicht: (2025)
von: Xie, Fangzhou
Veröffentlicht: (2025)
Acceleration Meets Inverse Maintenance: Faster $\ell_{\infty}$-Regression
von: Adil, Deeksha, et al.
Veröffentlicht: (2024)
von: Adil, Deeksha, et al.
Veröffentlicht: (2024)
Accelerated first-order methods for a class of semidefinite programs
von: Wang, Alex L., et al.
Veröffentlicht: (2022)
von: Wang, Alex L., et al.
Veröffentlicht: (2022)
Accelerated Approximate Optimization of Multi-Commodity Flows on Directed Graphs
von: Chen, Li, et al.
Veröffentlicht: (2025)
von: Chen, Li, et al.
Veröffentlicht: (2025)
Grams: Gradient Descent with Adaptive Momentum Scaling
von: Cao, Yang, et al.
Veröffentlicht: (2024)
von: Cao, Yang, et al.
Veröffentlicht: (2024)
Gradient Descent is Pareto-Optimal in the Oracle Complexity and Memory Tradeoff for Feasibility Problems
von: Blanchard, Moise
Veröffentlicht: (2024)
von: Blanchard, Moise
Veröffentlicht: (2024)
Gradient Testing and Estimation by Comparisons
von: Tao, Xiwen, et al.
Veröffentlicht: (2024)
von: Tao, Xiwen, et al.
Veröffentlicht: (2024)
Handicap reduction for linear complementarity problems
von: -Nagy, Marianna E., et al.
Veröffentlicht: (2026)
von: -Nagy, Marianna E., et al.
Veröffentlicht: (2026)
On the complexity of the upgrading version of the maximal covering location problem
von: Baldomero-Naranjo, Marta, et al.
Veröffentlicht: (2024)
von: Baldomero-Naranjo, Marta, et al.
Veröffentlicht: (2024)
A First Order Method for Linear Programming Parameterized by Circuit Imbalance
von: Cole, Richard, et al.
Veröffentlicht: (2023)
von: Cole, Richard, et al.
Veröffentlicht: (2023)
Bounds for the Permutation Flowshop Scheduling Problem: New Framework and Theoretical Insights
von: Alejandro-Soto, J. A., et al.
Veröffentlicht: (2025)
von: Alejandro-Soto, J. A., et al.
Veröffentlicht: (2025)
Interior point methods are not worse than Simplex
von: Allamigeon, Xavier, et al.
Veröffentlicht: (2022)
von: Allamigeon, Xavier, et al.
Veröffentlicht: (2022)
Optimization of Next-Day Delivery Coverage using Constraint Programming and Random Key Optimizers
von: Brubaker, Kyle, et al.
Veröffentlicht: (2025)
von: Brubaker, Kyle, et al.
Veröffentlicht: (2025)
Low Rank Matrix Completion via Robust Alternating Minimization in Nearly Linear Time
von: Gu, Yuzhou, et al.
Veröffentlicht: (2023)
von: Gu, Yuzhou, et al.
Veröffentlicht: (2023)
Gradient-Free Method for Heavily Constrained Nonconvex Optimization
von: Shi, Wanli, et al.
Veröffentlicht: (2024)
von: Shi, Wanli, et al.
Veröffentlicht: (2024)
Parameterized Complexity of Scheduling Problems in Robotic Process Automation
von: Dvořák, Michal, et al.
Veröffentlicht: (2026)
von: Dvořák, Michal, et al.
Veröffentlicht: (2026)
Coordinating Spot and Contract Supply in Freight Marketplaces
von: Kaminsky, Philip, et al.
Veröffentlicht: (2026)
von: Kaminsky, Philip, et al.
Veröffentlicht: (2026)
Scalable First-Order Interior Point Trust Region Algorithms for Linearly Constrained Optimization
von: Su, Yuexin, et al.
Veröffentlicht: (2026)
von: Su, Yuexin, et al.
Veröffentlicht: (2026)
On the Complexity of Bilevel Independent Set Problem
von: Muluk, Komal
Veröffentlicht: (2026)
von: Muluk, Komal
Veröffentlicht: (2026)
Optimizing for Fairness in Generalized Kidney Exchange: Theory and Computations
von: Chang, Claire, et al.
Veröffentlicht: (2026)
von: Chang, Claire, et al.
Veröffentlicht: (2026)
Improved Speed via Regional Fulfillment
von: Hathcock, Daniel, et al.
Veröffentlicht: (2026)
von: Hathcock, Daniel, et al.
Veröffentlicht: (2026)
Economic Warehouse Lot Scheduling: Breaking the 2-Approximation Barrier
von: Segev, Danny
Veröffentlicht: (2026)
von: Segev, Danny
Veröffentlicht: (2026)
Circuit Diameter of Polyhedra is Strongly Polynomial
von: Natura, Bento
Veröffentlicht: (2026)
von: Natura, Bento
Veröffentlicht: (2026)
Approximation Schemes for Sequential Hiring Problems
von: Segev, Danny, et al.
Veröffentlicht: (2026)
von: Segev, Danny, et al.
Veröffentlicht: (2026)
Resource-Constrained Joint Replenishment via Power-of-$m^{1/k}$ Policies
von: Segev, Danny
Veröffentlicht: (2026)
von: Segev, Danny
Veröffentlicht: (2026)
Economic Warehouse Lot Scheduling: Approximation Schemes via Efficiently-Representable DP-Encoded Policies
von: Segev, Danny
Veröffentlicht: (2026)
von: Segev, Danny
Veröffentlicht: (2026)
A Two-Layer Framework for Joint Online Configuration Selection and Admission Control
von: Shen, Owen, et al.
Veröffentlicht: (2026)
von: Shen, Owen, et al.
Veröffentlicht: (2026)
(Near)-Optimal Algorithms for Sparse Separable Convex Integer Programs
von: Hunkenschröder, Christoph, et al.
Veröffentlicht: (2025)
von: Hunkenschröder, Christoph, et al.
Veröffentlicht: (2025)
Computational complexity of the recoverable robust shortest path problem in acyclic digraphs
von: Kasperski, Adam, et al.
Veröffentlicht: (2024)
von: Kasperski, Adam, et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
Acceleration by Stepsize Hedging I: Multi-Step Descent and the Silver Stepsize Schedule
von: Altschuler, Jason M., et al.
Veröffentlicht: (2023) -
Acceleration by Random Stepsizes: Hedging, Equalization, and the Arcsine Stepsize Schedule
von: Altschuler, Jason M., et al.
Veröffentlicht: (2024) -
Accelerating Proximal Gradient Descent via Silver Stepsizes
von: Bok, Jinho, et al.
Veröffentlicht: (2024) -
Negative Stepsizes Make Gradient-Descent-Ascent Converge
von: Shugart, Henry, et al.
Veröffentlicht: (2025) -
Acceleration by Stepsize Hedging II: Silver Stepsize Schedule for Smooth Convex Optimization
von: Altschuler, Jason M., et al.
Veröffentlicht: (2023)