Buchumschlag

Gradient Descent, Stochastic Optimization, and Other Tales

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Lu, Jun
Format:	Preprint
Veröffentlicht:	2022
Schlagworte:	Machine Learning Neural and Evolutionary Computing Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Optimization of Discrete Parameters Using the Adaptive Gradient Method and Directed Evolution
von: Beinarovich, Andrei, et al.
Veröffentlicht: (2024)

Gradient Projection onto Historical Descent Directions for Communication-Efficient Federated Learning
von: Descours, Arnaud, et al.
Veröffentlicht: (2025)

Limiting Network Size within Finite Bounds for Optimization
von: Pinto, Linu, et al.
Veröffentlicht: (2019)

Machine Learning-Enhanced Ant Colony Optimization for Column Generation
von: Xu, Hongjie, et al.
Veröffentlicht: (2024)

A Composite Decomposition Method for Large-Scale Global Optimization
von: Tian, Maojiang, et al.
Veröffentlicht: (2024)

Empirical Evaluation of No Free Lunch Violations in Permutation-Based Optimization
von: Sroka, Grzegorz
Veröffentlicht: (2026)

Neural Combinatorial Optimization with Heavy Decoder: Toward Large Scale Generalization
von: Luo, Fu, et al.
Veröffentlicht: (2023)

Tight Convergence Rate Bounds for Optimization Under Power Law Spectral Conditions
von: Velikanov, Maksim, et al.
Veröffentlicht: (2022)

Lean and Mean Adaptive Optimization via Subset-Norm and Subspace-Momentum with Convergence Guarantees
von: Nguyen, Thien Hang, et al.
Veröffentlicht: (2024)

QUIVER: Cost-Aware Adaptive Preference Querying in Surrogate-Assisted Evolutionary Multi-Objective Optimization
von: Burnat, Florian A. D.
Veröffentlicht: (2026)

A Globally Convergent Algorithm for Neural Network Parameter Optimization Based on Difference-of-Convex Functions
von: Tschernutter, Daniel, et al.
Veröffentlicht: (2024)

Annealed Mean Field Descent Is Highly Effective for Quadratic Unconstrained Binary Optimization
von: Kuroki, Kyo, et al.
Veröffentlicht: (2025)

Gradient Networks
von: Chaudhari, Shreyas, et al.
Veröffentlicht: (2024)

Enhanced Innovized Repair Operator for Evolutionary Multi- and Many-objective Optimization
von: Mittal, Sukrit, et al.
Veröffentlicht: (2020)

Evolutionary Retrofitting
von: Videau, Mathurin, et al.
Veröffentlicht: (2024)

Understand the Effectiveness of Shortcuts through the Lens of DCA
von: Sun, Youran, et al.
Veröffentlicht: (2024)

The late-stage training dynamics of (stochastic) subgradient descent on homogeneous neural networks
von: Schechtman, Sholom, et al.
Veröffentlicht: (2025)

Availability of Perfect Decomposition in Statistical Linkage Learning for Unitation-based Function Concatenations
von: Prusik, Michal, et al.
Veröffentlicht: (2025)

Computationally Efficient Optimisation of Elbow-Type Draft Tube Using Neural Network Surrogates
von: Sikirica, Ante, et al.
Veröffentlicht: (2024)

Towards Resilient and Sustainable Global Industrial Systems: An Evolutionary-Based Approach
von: Jirkovský, Václav, et al.
Veröffentlicht: (2025)

EXPObench: Benchmarking Surrogate-based Optimisation Algorithms on Expensive Black-box Functions
von: Bliek, Laurens, et al.
Veröffentlicht: (2021)

Scaling of hardware-compatible perturbative training algorithms
von: Oripov, Bakhrom G., et al.
Veröffentlicht: (2025)

Lyapunov Stability of Stochastic Vector Optimization: Theory and Numerical Implementation
von: Santos, Thiago, et al.
Veröffentlicht: (2026)

Quality-Diversity Optimization as Multi-Objective Optimization
von: Lin, Xi, et al.
Veröffentlicht: (2026)

Optimization-Embedded Active Multi-Fidelity Surrogate Learning for Multi-Condition Airfoil Shape Optimization
von: Robledo, Isaac, et al.
Veröffentlicht: (2026)

Smooth Tchebycheff Scalarization for Multi-Objective Optimization
von: Lin, Xi, et al.
Veröffentlicht: (2024)

Few for Many: Tchebycheff Set Scalarization for Many-Objective Optimization
von: Lin, Xi, et al.
Veröffentlicht: (2024)

GBO:AMulti-Granularity Optimization Algorithm via Granular-ball for Continuous Problems
von: Xia, Shuyin, et al.
Veröffentlicht: (2023)

Training Non-Differentiable Networks via Optimal Transport
von: Le, An T.
Veröffentlicht: (2026)

Survey on Neural Routing Solvers
von: Ba, Yunpeng, et al.
Veröffentlicht: (2026)

An Improved Dung Beetle Optimizer for Random Forest Optimization
von: Tan, Lianghao, et al.
Veröffentlicht: (2024)

Orthogonally Initiated Particle Swarm Optimization with Advanced Mutation for Real-Parameter Optimization
von: Bala, Indu, et al.
Veröffentlicht: (2024)

Feature-based Evolutionary Diversity Optimization of Discriminating Instances for Chance-constrained Optimization Problems
von: Ahouei, Saba Sadeghi, et al.
Veröffentlicht: (2025)

Underdamped Particle Swarm Optimization
von: Rodríguez, Matías Ezequiel Hernández
Veröffentlicht: (2025)

Modified FOX Optimizer for Solving optimization problems
von: Hasan, Dler O., et al.
Veröffentlicht: (2025)

MicroHD: An Accuracy-Driven Optimization of Hyperdimensional Computing Algorithms for TinyML systems
von: Ponzina, Flavio, et al.
Veröffentlicht: (2024)

PSO and the Traveling Salesman Problem: An Intelligent Optimization Approach
von: Araújo, Kael Silva, et al.
Veröffentlicht: (2025)

Explicitly Multi-Modal Benchmarks for Multi-Objective Optimization
von: Ota, Ryosuke, et al.
Veröffentlicht: (2021)

Optimal Restart Strategies for Parameter-dependent Optimization Algorithms
von: Schönenberger, Lisa, et al.
Veröffentlicht: (2025)

An Efficient Dynamic Resource Allocation Framework for Evolutionary Bilevel Optimization
von: Xu, Dejun, et al.
Veröffentlicht: (2024)