Exploring Jacobian Inexactness in Second-Order Methods for Variational Inequalities: Lower Bounds, Optimal Algorithms and Quasi-Newton Approximations
Fuente:
arXiv
Salvato in:
| Autori principali: | Agafonov, Artem, Ostroukhov, Petr, Mozhaev, Roman, Yakovlev, Konstantin, Gorbunov, Eduard, Takáč, Martin, Gasnikov, Alexander, Kamzolov, Dmitry |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Decentralized Inexact Cubic Newton Method with Consensus Procedure
di: Agafonov, Artem, et al.
Pubblicazione: (2026)
di: Agafonov, Artem, et al.
Pubblicazione: (2026)
OPTAMI: Global Superlinear Convergence of High-order Methods
di: Kamzolov, Dmitry, et al.
Pubblicazione: (2024)
di: Kamzolov, Dmitry, et al.
Pubblicazione: (2024)
Exploiting higher-order derivatives in convex optimization methods
di: Kamzolov, Dmitry, et al.
Pubblicazione: (2022)
di: Kamzolov, Dmitry, et al.
Pubblicazione: (2022)
AdaBatchGrad: Combining Adaptive Batch Size and Adaptive Step Size
di: Ostroukhov, Petr, et al.
Pubblicazione: (2024)
di: Ostroukhov, Petr, et al.
Pubblicazione: (2024)
Adaptive Regularized Newton Method with Inexact Hessian
di: Shestakov, Aleksandr, et al.
Pubblicazione: (2025)
di: Shestakov, Aleksandr, et al.
Pubblicazione: (2025)
Simple Stepsize for Quasi-Newton Methods with Global Convergence Guarantees
di: Agafonov, Artem, et al.
Pubblicazione: (2025)
di: Agafonov, Artem, et al.
Pubblicazione: (2025)
Advancing the lower bounds: An accelerated, stochastic, second-order method with optimal adaptation to inexactness
di: Agafonov, Artem, et al.
Pubblicazione: (2023)
di: Agafonov, Artem, et al.
Pubblicazione: (2023)
Multi-Agent Path Finding For Large Agents Is Intractable
di: Agafonov, Artem, et al.
Pubblicazione: (2025)
di: Agafonov, Artem, et al.
Pubblicazione: (2025)
Cubic Regularized Newton Method with Variance Reduction for Finite-sum Non-convex Problems
di: Pasechnyuk-Vilensky, Dmitry, et al.
Pubblicazione: (2025)
di: Pasechnyuk-Vilensky, Dmitry, et al.
Pubblicazione: (2025)
Linear Convergence Rate in Convex Setup is Possible! Gradient Descent Method Variants under $(L_0,L_1)$-Smoothness
di: Lobanov, Aleksandr, et al.
Pubblicazione: (2024)
di: Lobanov, Aleksandr, et al.
Pubblicazione: (2024)
Methods with Local Steps and Random Reshuffling for Generally Smooth Non-Convex Federated Optimization
di: Demidovich, Yury, et al.
Pubblicazione: (2024)
di: Demidovich, Yury, et al.
Pubblicazione: (2024)
Similarity, Compression and Local Steps: Three Pillars of Efficient Communications for Distributed Variational Inequalities
di: Beznosikov, Aleksandr, et al.
Pubblicazione: (2023)
di: Beznosikov, Aleksandr, et al.
Pubblicazione: (2023)
Inexact Regularized Quasi-Newton Algorithm for Solving Monotone Variational Inequality Problems
di: Ye, Yuge, et al.
Pubblicazione: (2025)
di: Ye, Yuge, et al.
Pubblicazione: (2025)
$ψ$DAG: Projected Stochastic Approximation Iteration for DAG Structure Learning
di: Ziu, Klea, et al.
Pubblicazione: (2024)
di: Ziu, Klea, et al.
Pubblicazione: (2024)
High-Probability Convergence for Composite and Distributed Stochastic Minimization and Variational Inequalities with Heavy-Tailed Noise
di: Gorbunov, Eduard, et al.
Pubblicazione: (2023)
di: Gorbunov, Eduard, et al.
Pubblicazione: (2023)
High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise
di: Gorbunov, Eduard, et al.
Pubblicazione: (2021)
di: Gorbunov, Eduard, et al.
Pubblicazione: (2021)
Lower and upper bounds of the convergence rate of gradient methods with composite noise in gradient
di: Vasin, Artem, et al.
Pubblicazione: (2026)
di: Vasin, Artem, et al.
Pubblicazione: (2026)
SANIA: Polyak-type Optimization Framework Leads to Scale Invariant Stochastic Algorithms
di: Abdukhakimov, Farshed, et al.
Pubblicazione: (2023)
di: Abdukhakimov, Farshed, et al.
Pubblicazione: (2023)
Extragradient Sliding for Composite Non-Monotone Variational Inequalities
di: Emelyanov, Roman, et al.
Pubblicazione: (2024)
di: Emelyanov, Roman, et al.
Pubblicazione: (2024)
Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems
di: Puchkin, Nikita, et al.
Pubblicazione: (2023)
di: Puchkin, Nikita, et al.
Pubblicazione: (2023)
Federated Learning Can Find Friends That Are Advantageous
di: Tupitsa, Nazarii, et al.
Pubblicazione: (2024)
di: Tupitsa, Nazarii, et al.
Pubblicazione: (2024)
Byzantine-Robust Optimization under $(L_0, L_1)$-Smoothness
di: Bolatov, Arman, et al.
Pubblicazione: (2026)
di: Bolatov, Arman, et al.
Pubblicazione: (2026)
Clipping Improves Adam-Norm and AdaGrad-Norm when the Noise Is Heavy-Tailed
di: Chezhegov, Savelii, et al.
Pubblicazione: (2024)
di: Chezhegov, Savelii, et al.
Pubblicazione: (2024)
A Globalized Inexact Semismooth Newton Method for Nonsmooth Fixed-point Equations involving Variational Inequalities
di: Alphonse, Amal, et al.
Pubblicazione: (2024)
di: Alphonse, Amal, et al.
Pubblicazione: (2024)
Practical Regularized Quasi-Newton Methods with Inexact Function Values
di: Hamaguchi, Hiroki, et al.
Pubblicazione: (2026)
di: Hamaguchi, Hiroki, et al.
Pubblicazione: (2026)
An Inexact Modified Quasi-Newton Method for Nonsmooth Regularized Optimization
di: Allaire, Nathan, et al.
Pubblicazione: (2025)
di: Allaire, Nathan, et al.
Pubblicazione: (2025)
Lower Bounds and Optimal Algorithms for Non-Smooth Convex Decentralized Optimization over Time-Varying Networks
di: Kovalev, Dmitry, et al.
Pubblicazione: (2024)
di: Kovalev, Dmitry, et al.
Pubblicazione: (2024)
First Order Methods with Markovian Noise: from Acceleration to Variational Inequalities
di: Beznosikov, Aleksandr, et al.
Pubblicazione: (2023)
di: Beznosikov, Aleksandr, et al.
Pubblicazione: (2023)
Failure of Lang's Flat Chain Conjecture and non-regularity of the prescribed Jacobian equation
di: Takáč, Jakub
Pubblicazione: (2025)
di: Takáč, Jakub
Pubblicazione: (2025)
Stochastic Gradient Methods with Preconditioned Updates
di: Sadiev, Abdurakhmon, et al.
Pubblicazione: (2022)
di: Sadiev, Abdurakhmon, et al.
Pubblicazione: (2022)
Second-Order Regular Variation and Second-Order Approximation of Hawkes Processes
di: Horst, Ulrich, et al.
Pubblicazione: (2023)
di: Horst, Ulrich, et al.
Pubblicazione: (2023)
Approximation Capabilities of Feedforward Neural Networks with GELU Activations
di: Yakovlev, Konstantin, et al.
Pubblicazione: (2025)
di: Yakovlev, Konstantin, et al.
Pubblicazione: (2025)
Simultaneous Approximation of the Score Function and Its Derivatives by Deep Neural Networks
di: Yakovlev, Konstantin, et al.
Pubblicazione: (2025)
di: Yakovlev, Konstantin, et al.
Pubblicazione: (2025)
On Second-Order $L^\infty$ Variational Problems with Lower-Order Terms
di: Dutton, Ben, et al.
Pubblicazione: (2024)
di: Dutton, Ben, et al.
Pubblicazione: (2024)
Distributed Saddle-Point Problems: Lower Bounds, Near-Optimal and Robust Algorithms
di: Beznosikov, Aleksandr, et al.
Pubblicazione: (2020)
di: Beznosikov, Aleksandr, et al.
Pubblicazione: (2020)
Randomized gradient-free methods in convex optimization
di: Gasnikov, Alexander, et al.
Pubblicazione: (2022)
di: Gasnikov, Alexander, et al.
Pubblicazione: (2022)
Remove that Square Root: A New Efficient Scale-Invariant Version of AdaGrad
di: Choudhury, Sayantan, et al.
Pubblicazione: (2024)
di: Choudhury, Sayantan, et al.
Pubblicazione: (2024)
Second Order Bounds for Contextual Bandits with Function Approximation
di: Pacchiano, Aldo
Pubblicazione: (2024)
di: Pacchiano, Aldo
Pubblicazione: (2024)
Higher Degree Inexact Model for Optimization problems
di: Alkousa, Mohammad, et al.
Pubblicazione: (2024)
di: Alkousa, Mohammad, et al.
Pubblicazione: (2024)
Learning Confident Classifiers in the Presence of Label Noise
di: Hashmi, Asma Ahmed, et al.
Pubblicazione: (2023)
di: Hashmi, Asma Ahmed, et al.
Pubblicazione: (2023)
Documenti analoghi
-
Decentralized Inexact Cubic Newton Method with Consensus Procedure
di: Agafonov, Artem, et al.
Pubblicazione: (2026) -
OPTAMI: Global Superlinear Convergence of High-order Methods
di: Kamzolov, Dmitry, et al.
Pubblicazione: (2024) -
Exploiting higher-order derivatives in convex optimization methods
di: Kamzolov, Dmitry, et al.
Pubblicazione: (2022) -
AdaBatchGrad: Combining Adaptive Batch Size and Adaptive Step Size
di: Ostroukhov, Petr, et al.
Pubblicazione: (2024) -
Adaptive Regularized Newton Method with Inexact Hessian
di: Shestakov, Aleksandr, et al.
Pubblicazione: (2025)