Buchumschlag

The Jacobian and Hessian of the Kullback-Leibler Divergence between Multivariate Gaussian Distributions (Technical Report)

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Maroñas, Juan
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Statistical and Geometrical properties of regularized Kernel Kullback-Leibler divergence
von: Chazal, Clémentine, et al.
Veröffentlicht: (2024)

Conic Reformulations for Kullback-Leibler Divergence Constrained Distributionally Robust Optimization and Applications
von: Kocuk, Burak
Veröffentlicht: (2020)

Optimal Hessian/Jacobian-Free Nonconvex-PL Bilevel Optimization
von: Huang, Feihu
Veröffentlicht: (2024)

Distributionally Robust LQG with Kullback-Leibler Ambiguity Sets
von: Fochesato, Marta, et al.
Veröffentlicht: (2025)

Achieving ${O}(ε^{-1.5})$ Complexity in Hessian/Jacobian-free Stochastic Bilevel Optimization
von: Yang, Yifan, et al.
Veröffentlicht: (2023)

Relaxed Triangle Inequality for Kullback-Leibler Divergence Between Multivariate Gaussian Distributions
von: Xiao, Shiji, et al.
Veröffentlicht: (2026)

Closed Forms for Gaussian Kullback--Leibler Unbalanced Optimal Transport without Coupling Entropy
von: Yang, Jiaping, et al.
Veröffentlicht: (2026)

Foundations of Multivariate Distributional Reinforcement Learning
von: Wiltzer, Harley, et al.
Veröffentlicht: (2024)

Accelerated Stochastic ExtraGradient: Mixing Hessian and Gradient Similarity to Reduce Communication in Distributed and Federated Learning
von: Bylinkin, Dmitry, et al.
Veröffentlicht: (2024)

Stochastic Hessian Fittings with Lie Groups
von: Li, Xi-Lin
Veröffentlicht: (2024)

Gradient-Normalized Smoothness for Optimization with Approximate Hessians
von: Semenov, Andrei, et al.
Veröffentlicht: (2025)

Towards Quantifying the Hessian Structure of Neural Networks
von: Dong, Zhaorui, et al.
Veröffentlicht: (2025)

SGD with Partial Hessian for Deep Neural Networks Optimization
von: Sun, Ying, et al.
Veröffentlicht: (2024)

A Hessian-Aware Stochastic Differential Equation for Modelling SGD
von: Li, Xiang, et al.
Veröffentlicht: (2024)

Hessian-guided Perturbed Wasserstein Gradient Flows for Escaping Saddle Points
von: Yamamoto, Naoya, et al.
Veröffentlicht: (2025)

Newton-CG methods for nonconvex unconstrained optimization with Hölder continuous Hessian
von: He, Chuan, et al.
Veröffentlicht: (2023)

Global Convergence of Natural Policy Gradient with Hessian-aided Momentum Variance Reduction
von: Feng, Jie, et al.
Veröffentlicht: (2024)

Sliced Wasserstein Steering between Gaussian Measures
von: Ito, Kaito, et al.
Veröffentlicht: (2026)

Theoretical Analysis of Heteroscedastic Gaussian Processes with Posterior Distributions
von: Ito, Yuji
Veröffentlicht: (2024)

Online estimation of the inverse of the Hessian for stochastic optimization with application to universal stochastic Newton algorithms
von: Godichon-Baggioni, Antoine, et al.
Veröffentlicht: (2024)

Jacobian Descent for Multi-Objective Optimization
von: Quinton, Pierre, et al.
Veröffentlicht: (2024)

End-to-End Training of High-Dimensional Optimal Control with Implicit Hamiltonians via Jacobian-Free Backpropagation
von: Gelphman, Eric, et al.
Veröffentlicht: (2025)

Second-order Optimization under Heavy-Tailed Noise: Hessian Clipping and Sample Complexity Limits
von: Sadiev, Abdurakhmon, et al.
Veröffentlicht: (2025)

Constrained Bi-Level Optimization: Proximal Lagrangian Value function Approach and Hessian-free Algorithm
von: Yao, Wei, et al.
Veröffentlicht: (2024)

Moreau Envelope for Nonconvex Bi-Level Optimization: A Single-loop and Hessian-free Solution Strategy
von: Liu, Risheng, et al.
Veröffentlicht: (2024)

Online Nonconvex Bilevel Optimization with Bregman Divergences
von: Bohne, Jason, et al.
Veröffentlicht: (2024)

Decoupled Kullback-Leibler Divergence Loss
von: Cui, Jiequan, et al.
Veröffentlicht: (2023)

NeST-BO: Fast Local Bayesian Optimization via Newton-Step Targeting of Gradient and Hessian Information
von: Tang, Wei-Ting, et al.
Veröffentlicht: (2025)

A Hessian-Free Actor-Critic Algorithm for Bi-Level Reinforcement Learning with Applications to LLM Fine-Tuning
von: Zeng, Sihan, et al.
Veröffentlicht: (2026)

Quadratic Gradient: A Unified Framework Bridging Gradient Descent and Newton-Type Methods by Synthesizing Hessians and Gradients
von: Chiang, John
Veröffentlicht: (2022)

First-ish Order Methods: Hessian-aware Scalings of Gradient Descent
von: Smee, Oscar, et al.
Veröffentlicht: (2025)

Multivariate Online Linear Regression for Hierarchical Forecasting
von: Hihat, Massil, et al.
Veröffentlicht: (2024)

Reinforcement Learning Paycheck Optimization for Multivariate Financial Goals
von: Alaluf, Melda, et al.
Veröffentlicht: (2024)

Convergence Properties of Natural Gradient Descent for Minimizing KL Divergence
von: Datar, Adwait, et al.
Veröffentlicht: (2025)

Divergence Results and Convergence of a Variance Reduced Version of ADAM
von: Wang, Ruiqi, et al.
Veröffentlicht: (2022)

Dimension-Independent Convergence of Underdamped Langevin Monte Carlo in KL Divergence
von: Zhang, Shiyuan, et al.
Veröffentlicht: (2026)

Generalized Kullback-Leibler Divergence Loss
von: Cui, Jiequan, et al.
Veröffentlicht: (2025)

Causal Optimal Coupling for Gaussian Input-Output Distributional Data
von: Xu, Daran, et al.
Veröffentlicht: (2026)

Quantum Learning and Estimation for Coordinated Operation between Distribution Networks and Energy Communities
von: Zhuang, Yingrui, et al.
Veröffentlicht: (2025)

New Lower Bounds for Stochastic Non-Convex Optimization through Divergence Decomposition
von: Saad, El Mehdi, et al.
Veröffentlicht: (2025)