Conjugate-Gradient-like Based Adaptive Moment Estimation Optimization Algorithm for Deep Learning
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Tian, Jiawu, Xu, Liwei, Zhang, Xiaowei, Li, Yongqi |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Adaptive Moment Estimation Optimization Algorithm Using Projection Gradient for Deep Learning
par: Li, Yongqi, et autres
Publié: (2025)
par: Li, Yongqi, et autres
Publié: (2025)
MKOR: Momentum-Enabled Kronecker-Factor-Based Optimizer Using Rank-1 Updates
par: Mozaffari, Mohammad, et autres
Publié: (2023)
par: Mozaffari, Mohammad, et autres
Publié: (2023)
LORE: Lagrangian-Optimized Robust Embeddings for Visual Encoders
par: Khodabandeh, Borna, et autres
Publié: (2025)
par: Khodabandeh, Borna, et autres
Publié: (2025)
Exposing Diversity Bias in Deep Generative Models: Statistical Origins and Correction of Diversity Error
par: Farnia, Farzan, et autres
Publié: (2026)
par: Farnia, Farzan, et autres
Publié: (2026)
Provably Learning Diverse Features in Multi-View Data with Midpoint Mixup
par: Chidambaram, Muthu, et autres
Publié: (2022)
par: Chidambaram, Muthu, et autres
Publié: (2022)
KOALA: A Kalman Optimization Algorithm with Loss Adaptivity
par: Davtyan, Aram, et autres
Publié: (2021)
par: Davtyan, Aram, et autres
Publié: (2021)
EMC$^2$: Efficient MCMC Negative Sampling for Contrastive Learning with Global Convergence
par: Yau, Chung-Yiu, et autres
Publié: (2024)
par: Yau, Chung-Yiu, et autres
Publié: (2024)
Training-free Diffusion Model Alignment with Sampling Demons
par: Yeh, Po-Hung, et autres
Publié: (2024)
par: Yeh, Po-Hung, et autres
Publié: (2024)
Pattern based learning and optimisation through pricing for bin packing problem
par: Zhang, Huayan, et autres
Publié: (2024)
par: Zhang, Huayan, et autres
Publié: (2024)
Decentralized Personalized Federated Learning
par: Kharrat, Salma, et autres
Publié: (2024)
par: Kharrat, Salma, et autres
Publié: (2024)
Deep Unrolled Meta-Learning for Multi-Coil and Multi-Modality MRI with Adaptive Optimization
par: Fouladvand, Merham, et autres
Publié: (2025)
par: Fouladvand, Merham, et autres
Publié: (2025)
An Improved Optimal Proximal Gradient Algorithm for Non-Blind Image Deblurring
par: Wang, Qingsong, et autres
Publié: (2025)
par: Wang, Qingsong, et autres
Publié: (2025)
SMI: Statistical Membership Inference for Reliable Unlearned Model Auditing
par: Sun, Jialong, et autres
Publié: (2026)
par: Sun, Jialong, et autres
Publié: (2026)
Unsupervised Point Cloud Pre-Training via Contrasting and Clustering
par: Mei, Guofeng, et autres
Publié: (2022)
par: Mei, Guofeng, et autres
Publié: (2022)
Amortized Guidance for Image Inpainting with Pretrained Diffusion Models
par: Huang, Yilie, et autres
Publié: (2026)
par: Huang, Yilie, et autres
Publié: (2026)
Isotropic Curvature Model for Understanding Deep Learning Optimization: Is Gradient Orthogonalization Optimal?
par: Su, Weijie
Publié: (2025)
par: Su, Weijie
Publié: (2025)
EXAdam: The Power of Adaptive Cross-Moments
par: Adly, Ahmed M.
Publié: (2024)
par: Adly, Ahmed M.
Publié: (2024)
Identifying and Understanding Cross-Class Features in Adversarial Training
par: Wei, Zeming, et autres
Publié: (2025)
par: Wei, Zeming, et autres
Publié: (2025)
Calibrated Adversarial Sampling: Multi-Armed Bandit-Guided Generalization Against Unforeseen Attacks
par: Wang, Rui, et autres
Publié: (2025)
par: Wang, Rui, et autres
Publié: (2025)
On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization
par: Ma, Shaocong, et autres
Publié: (2025)
par: Ma, Shaocong, et autres
Publié: (2025)
DIMAT: Decentralized Iterative Merging-And-Training for Deep Learning Models
par: Saadati, Nastaran, et autres
Publié: (2024)
par: Saadati, Nastaran, et autres
Publié: (2024)
Learning Spatially Adaptive $\ell_1$-Norms Weights for Convolutional Synthesis Regularization
par: Kofler, Andreas, et autres
Publié: (2025)
par: Kofler, Andreas, et autres
Publié: (2025)
A Brief Overview of Optimization-Based Algorithms for MRI Reconstruction Using Deep Learning
par: Bian, Wanyu
Publié: (2024)
par: Bian, Wanyu
Publié: (2024)
Understanding Deep Representation Learning via Layerwise Feature Compression and Discrimination
par: Wang, Peng, et autres
Publié: (2023)
par: Wang, Peng, et autres
Publié: (2023)
Deep graph matching meets mixed-integer linear programming: Relax at your own risk ?
par: Xu, Zhoubo, et autres
Publié: (2021)
par: Xu, Zhoubo, et autres
Publié: (2021)
Dynamic Memory Based Adaptive Optimization
par: Szegedy, Balázs, et autres
Publié: (2024)
par: Szegedy, Balázs, et autres
Publié: (2024)
DualHash: A Stochastic Primal-Dual Algorithm with Theoretical Guarantee for Deep Hashing
par: Li, Luxuan, et autres
Publié: (2025)
par: Li, Luxuan, et autres
Publié: (2025)
On Finding Small Hyper-Gradients in Bilevel Optimization: Hardness Results and Improved Analysis
par: Chen, Lesi, et autres
Publié: (2023)
par: Chen, Lesi, et autres
Publié: (2023)
Interpreting and Improving Diffusion Models from an Optimization Perspective
par: Permenter, Frank, et autres
Publié: (2023)
par: Permenter, Frank, et autres
Publié: (2023)
Memory-Efficient 4-bit Preconditioned Stochastic Optimization
par: Li, Jingyang, et autres
Publié: (2024)
par: Li, Jingyang, et autres
Publié: (2024)
Understanding Optimization in Deep Learning with Central Flows
par: Cohen, Jeremy M., et autres
Publié: (2024)
par: Cohen, Jeremy M., et autres
Publié: (2024)
Deep unrolling for learning optimal spatially varying regularisation parameters for Total Generalised Variation
par: Vu, Thanh Trung, et autres
Publié: (2025)
par: Vu, Thanh Trung, et autres
Publié: (2025)
Optimizing Grasping in Legged Robots: A Deep Learning Approach to Loco-Manipulation
par: Almeida, Dilermando, et autres
Publié: (2025)
par: Almeida, Dilermando, et autres
Publié: (2025)
On Distributed Larger-Than-Memory Subset Selection With Pairwise Submodular Functions
par: Böther, Maximilian, et autres
Publié: (2024)
par: Böther, Maximilian, et autres
Publié: (2024)
FreeAugment: Data Augmentation Search Across All Degrees of Freedom
par: Bekor, Tom, et autres
Publié: (2024)
par: Bekor, Tom, et autres
Publié: (2024)
Deep Learning for Two-Stage Robust Integer Optimization
par: Dumouchelle, Justin, et autres
Publié: (2023)
par: Dumouchelle, Justin, et autres
Publié: (2023)
Hindsight-Guided Momentum (HGM) Optimizer: An Approach to Adaptive Learning Rate
par: Sarkar, Krisanu
Publié: (2025)
par: Sarkar, Krisanu
Publié: (2025)
Multi-Objective Optimization for Sparse Deep Multi-Task Learning
par: Hotegni, S. S., et autres
Publié: (2023)
par: Hotegni, S. S., et autres
Publié: (2023)
ERIC: Estimating Rainfall with Commodity Doorbell Camera for Precision Residential Irrigation
par: Liu, Tian, et autres
Publié: (2024)
par: Liu, Tian, et autres
Publié: (2024)
Riemann Sum Optimization for Accurate Integrated Gradients Computation
par: Swain, Swadesh, et autres
Publié: (2024)
par: Swain, Swadesh, et autres
Publié: (2024)
Documents similaires
-
Adaptive Moment Estimation Optimization Algorithm Using Projection Gradient for Deep Learning
par: Li, Yongqi, et autres
Publié: (2025) -
MKOR: Momentum-Enabled Kronecker-Factor-Based Optimizer Using Rank-1 Updates
par: Mozaffari, Mohammad, et autres
Publié: (2023) -
LORE: Lagrangian-Optimized Robust Embeddings for Visual Encoders
par: Khodabandeh, Borna, et autres
Publié: (2025) -
Exposing Diversity Bias in Deep Generative Models: Statistical Origins and Correction of Diversity Error
par: Farnia, Farzan, et autres
Publié: (2026) -
Provably Learning Diverse Features in Multi-View Data with Midpoint Mixup
par: Chidambaram, Muthu, et autres
Publié: (2022)