Buchumschlag

Acceleration Exists! Optimization Problems When Oracle Can Only Compare Objective Function Values

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Lobanov, Aleksandr, Gasnikov, Alexander, Krasnov, Andrei
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Nesterov's method of dichotomy via Order Oracle: The problem of optimizing a two-variable function on a square
von: Chervonenkis, Boris, et al.
Veröffentlicht: (2024)

Accelerated Zero-Order SGD Method for Solving the Black Box Optimization Problem under "Overparametrization" Condition
von: Lobanov, Aleksandr, et al.
Veröffentlicht: (2023)

The Black-Box Optimization Problem: Zero-Order Accelerated Stochastic Method via Kernel Approximation
von: Lobanov, Aleksandr, et al.
Veröffentlicht: (2023)

Power of Generalized Smoothness in Stochastic Convex Optimization: First- and Zero-Order Algorithms
von: Lobanov, Aleksandr, et al.
Veröffentlicht: (2025)

Improved Iteration Complexity in Black-Box Optimization Problems under Higher Order Smoothness Function Condition
von: Lobanov, Aleksandr
Veröffentlicht: (2024)

Linear Convergence Rate in Convex Setup is Possible! Gradient Descent Method Variants under $(L_0,L_1)$-Smoothness
von: Lobanov, Aleksandr, et al.
Veröffentlicht: (2024)

Median Clipping for Zeroth-order Non-Smooth Convex Optimization and Multi-Armed Bandit Problem with Heavy-tailed Symmetric Noise
von: Kornilov, Nikita, et al.
Veröffentlicht: (2024)

Gradient-free algorithm for saddle point problems under overparametrization
von: Statkevich, Ekaterina, et al.
Veröffentlicht: (2024)

Accelerated Stochastic Gradient Method with Applications to Consensus Problem in Markov-Varying Networks
von: Solodkin, Vladimir, et al.
Veröffentlicht: (2024)

About some works of Boris Polyak on convergence of gradient methods and their development
von: Ablaev, Seydamet, et al.
Veröffentlicht: (2023)

Randomized gradient-free methods in convex optimization
von: Gasnikov, Alexander, et al.
Veröffentlicht: (2022)

Accelerated zero-order SGD under high-order smoothness and overparameterized regime
von: Bychkov, Georgii, et al.
Veröffentlicht: (2024)

Accelerated Methods with Compression for Horizontal and Vertical Federated Learning
von: Stanko, Sergey, et al.
Veröffentlicht: (2024)

Local SGD for Near-Quadratic Problems: Improving Convergence under Unconstrained Noise Conditions
von: Sadchikov, Andrey, et al.
Veröffentlicht: (2024)

Stochastic Decentralized Optimization of Non-Smooth Convex and Convex-Concave Problems over Time-Varying Networks
von: Divilkovskiy, Maxim, et al.
Veröffentlicht: (2025)

Bregman Proximal Method for Efficient Communications under Similarity
von: Beznosikov, Aleksandr, et al.
Veröffentlicht: (2023)

Avoiding Bias in Clipped SGD for Overparameterized Models under Generalized Smoothness
von: Lobanov, Aleksandr, et al.
Veröffentlicht: (2026)

Adaptive Regularized Newton Method with Inexact Hessian
von: Shestakov, Aleksandr, et al.
Veröffentlicht: (2025)

Decentralized Distributed Optimization for Saddle Point Problems
von: Rogozin, Alexander, et al.
Veröffentlicht: (2021)

Optimal Data Splitting in Distributed Optimization for Machine Learning
von: Medyakov, Daniil, et al.
Veröffentlicht: (2024)

Optimal Analysis of Method with Batching for Monotone Stochastic Finite-Sum Variational Inequalities
von: Pichugin, Alexander, et al.
Veröffentlicht: (2024)

Adaptive Algorithms for Relatively Lipschitz Continuous Convex Optimization Problems
von: Stonyakin, Fedor, et al.
Veröffentlicht: (2021)

Distributed Saddle-Point Problems: Lower Bounds, Near-Optimal and Robust Algorithms
von: Beznosikov, Aleksandr, et al.
Veröffentlicht: (2020)

Extragradient Sliding for Composite Non-Monotone Variational Inequalities
von: Emelyanov, Roman, et al.
Veröffentlicht: (2024)

Decentralized Finite-Sum Optimization over Time-Varying Networks
von: Metelev, Dmitry, et al.
Veröffentlicht: (2024)

Gradient-Type Methods For Decentralized Optimization Problems With Polyak-Łojasiewicz Condition Over Time-Varying Networks
von: Kuruzov, Ilya, et al.
Veröffentlicht: (2022)

Method with Batching for Stochastic Finite-Sum Variational Inequalities in Non-Euclidean Setting
von: Pichugin, Alexander, et al.
Veröffentlicht: (2024)

Stochastic Frank-Wolfe: Unified Analysis and Zoo of Special Cases
von: Nazykov, Ruslan, et al.
Veröffentlicht: (2024)

One-Point Feedback for Composite Optimization with Applications to Distributed and Federated Learning
von: Beznosikov, Aleksandr, et al.
Veröffentlicht: (2021)

First Order Methods with Markovian Noise: from Acceleration to Variational Inequalities
von: Beznosikov, Aleksandr, et al.
Veröffentlicht: (2023)

Gradient-Free Approaches is a Key to an Efficient Interaction with Markovian Stochasticity
von: Prokhorov, Boris, et al.
Veröffentlicht: (2026)

Stochastic Optimization Algorithms for Problems with Controllable Biased Oracles
von: Liu, Yin, et al.
Veröffentlicht: (2023)

Function-free Optimization via Comparison Oracles
von: Scheinberg, Katya, et al.
Veröffentlicht: (2026)

Decentralized Optimization with Mixed Affine Constraints
von: Yarmoshik, Demyan, et al.
Veröffentlicht: (2026)

Lower and upper bounds of the convergence rate of gradient methods with composite noise in gradient
von: Vasin, Artem, et al.
Veröffentlicht: (2026)

Dual Smoothing for Decentralized Optimization
von: Rogozin, Alexander, et al.
Veröffentlicht: (2025)

Adaptive Stepsize Selection in Decentralized Convex Optimization
von: Kuruzov, Ilya, et al.
Veröffentlicht: (2025)

A Parameter-free Decentralized Algorithm for Composite Convex Optimization
von: Chen, Xiaokai, et al.
Veröffentlicht: (2025)

Norm-Constrained Flows and Sign-Based Optimization: Theory and Algorithms
von: Leplat, Valentin, et al.
Veröffentlicht: (2025)

Sign Operator for Coping with Heavy-Tailed Noise in Non-Convex Optimization: High Probability Bounds Under $(L_0, L_1)$-Smoothness
von: Kornilov, Nikita, et al.
Veröffentlicht: (2025)