Buchumschlag

Comparing BFGS and OGR for Second-Order Optimization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Przybysz, Adrian, Kołek, Mikołaj, Sobota, Franciszek, Duda, Jarek
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Linear cost mutual information estimation and independence test of similar performance as HSIC
von: Duda, Jarek, et al.
Veröffentlicht: (2025)

TextBFGS: A Case-Based Reasoning Approach to Code Optimization via Error-Operator Retrieval
von: Zhang, Zizheng, et al.
Veröffentlicht: (2026)

Second-Order Convergence in Private Stochastic Non-Convex Optimization
von: Tao, Youming, et al.
Veröffentlicht: (2025)

Biology-inspired joint distribution neurons based on Hierarchical Correlation Reconstruction allowing for multidirectional propagation of values and densities
von: Duda, Jarek
Veröffentlicht: (2024)

The Potential of Second-Order Optimization for LLMs: A Study with Full Gauss-Newton
von: Abreu, Natalie, et al.
Veröffentlicht: (2025)

Simultaneous Training of First- and Second-Order Optimizers in Population-Based Reinforcement Learning
von: Pfeiffer, Felix, et al.
Veröffentlicht: (2024)

Adaptive stable distribution and Hurst exponent by method of moments moving estimator for nonstationary time series
von: Duda, Jarek
Veröffentlicht: (2025)

Adaptive Student's t-distribution with method of moments moving estimator for nonstationary time series
von: Duda, Jarek
Veröffentlicht: (2023)

HyperMAML: Few-Shot Adaptation of Deep Models with Hypernetworks
von: Przewięźlikowski, M., et al.
Veröffentlicht: (2022)

Higher order PCA-like rotation-invariant features for detailed shape descriptors modulo rotation
von: Duda, Jarek
Veröffentlicht: (2026)

Taming Preconditioner Drift: Unlocking the Potential of Second-Order Optimizers for Federated Learning on Non-IID Data
von: Liu, Junkang, et al.
Veröffentlicht: (2026)

Explaining Predictive Uncertainty by Exposing Second-Order Effects
von: Bley, Florian, et al.
Veröffentlicht: (2024)

Second Order Bounds for Contextual Bandits with Function Approximation
von: Pacchiano, Aldo
Veröffentlicht: (2024)

A Second-Order Perspective on Model Compositionality and Incremental Learning
von: Porrello, Angelo, et al.
Veröffentlicht: (2024)

Adaptive Cubic Regularized Second-Order Latent Factor Analysis Model
von: Wang, Jialiang, et al.
Veröffentlicht: (2025)

Gradient Alignment in Physics-informed Neural Networks: A Second-Order Optimization Perspective
von: Wang, Sifan, et al.
Veröffentlicht: (2025)

Chasing COMET: Leveraging Minimum Bayes Risk Decoding for Self-Improving Machine Translation
von: Guttmann, Kamil, et al.
Veröffentlicht: (2024)

Improving KAN with CDF normalization to quantiles
von: Strawa, Jakub, et al.
Veröffentlicht: (2025)

Beyond the Calibration Point: Mechanism Comparison in Differential Privacy
von: Kaissis, Georgios, et al.
Veröffentlicht: (2024)

Hierarchical Learning for Maze Navigation: Emergence of Mental Representations via Second-Order Learning
von: Manir, Shalima Binta, et al.
Veröffentlicht: (2025)

Second-Order Actor-Critic Methods for Discounted MDPs via Policy Hessian Decomposition
von: Manivannan, Sanjeev, et al.
Veröffentlicht: (2026)

Behaviour Distillation
von: Lupu, Andrei, et al.
Veröffentlicht: (2024)

DRSLF: Double Regularized Second-Order Low-Rank Representation for Web Service QoS Prediction
von: Wu, Hao, et al.
Veröffentlicht: (2025)

Refining Adaptive Zeroth-Order Optimization at Ease
von: Shu, Yao, et al.
Veröffentlicht: (2025)

COPA: Comparing the incomparable in multi-objective model evaluation
von: Javaloy, Adrián, et al.
Veröffentlicht: (2025)

Leakage and Second-Order Dynamics Improve Hippocampal RNN Replay
von: Casco-Rodriguez, Josue, et al.
Veröffentlicht: (2026)

Hierarchical Zero-Order Optimization for Deep Neural Networks
von: Cao, Sansheng, et al.
Veröffentlicht: (2026)

The Recurrent Sticky Hierarchical Dirichlet Process Hidden Markov Model
von: Słupiński, Mikołaj, et al.
Veröffentlicht: (2024)

Bayesian Inference in Recurrent Explicit Duration Switching Linear Dynamical Systems
von: Słupiński, Mikołaj, et al.
Veröffentlicht: (2024)

NAVIX: Scaling MiniGrid Environments with JAX
von: Pignatelli, Eduardo, et al.
Veröffentlicht: (2024)

SASSHA: Sharpness-aware Adaptive Second-order Optimization with Stable Hessian Approximation
von: Shin, Dahun, et al.
Veröffentlicht: (2025)

Subspace-based Approximate Hessian Method for Zeroth-Order Optimization
von: Kim, Dongyoon, et al.
Veröffentlicht: (2025)

Communication-Efficient Byzantine-Resilient Federated Zero-Order Optimization
von: Neto, Afonso de Sá Delgado, et al.
Veröffentlicht: (2024)

A Clean Slate for Offline Reinforcement Learning
von: Jackson, Matthew Thomas, et al.
Veröffentlicht: (2025)

Transformers Learn to Achieve Second-Order Convergence Rates for In-Context Linear Regression
von: Fu, Deqing, et al.
Veröffentlicht: (2023)

Second-Order Information Matters: Revisiting Machine Unlearning for Large Language Models
von: Gu, Kang, et al.
Veröffentlicht: (2024)

OptEx: Expediting First-Order Optimization with Approximately Parallelized Iterations
von: Shu, Yao, et al.
Veröffentlicht: (2024)

Robust Second-Order Nonconvex Optimization and Its Application to Low Rank Matrix Sensing
von: Li, Shuyao, et al.
Veröffentlicht: (2024)

Scaling Recurrent Neural Networks to a Billion Parameters with Zero-Order Optimization
von: Chaubard, Francois, et al.
Veröffentlicht: (2025)

A Historical Trajectory Assisted Optimization Method for Zeroth-Order Federated Learning
von: Wu, Chenlin, et al.
Veröffentlicht: (2024)