Buchumschlag

Preconditioned Inexact Stochastic ADMM for Deep Model

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhou, Shenglong, Wang, Ouya, Luo, Ziyan, Zhu, Yongxu, Li, Geoffrey Ye
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

BADM: Batch ADMM for Deep Learning
von: Wang, Ouya, et al.
Veröffentlicht: (2024)

FedGiA: An Efficient Hybrid Algorithm for Federated Learning
von: Zhou, Shenglong, et al.
Veröffentlicht: (2022)

FedADMM-InSa: An Inexact and Self-Adaptive ADMM for Federated Learning
von: Song, Yongcun, et al.
Veröffentlicht: (2024)

Sparse Decentralized Federated Learning
von: Sha, Shan, et al.
Veröffentlicht: (2023)

Decentralized Federated Learning by Partial Message Exchange
von: Sha, Shan, et al.
Veröffentlicht: (2026)

Bilevel Learning with Inexact Stochastic Gradients
von: Salehi, Mohammad Sadegh, et al.
Veröffentlicht: (2024)

Stochastic Gradient Methods with Preconditioned Updates
von: Sadiev, Abdurakhmon, et al.
Veröffentlicht: (2022)

A General Continuous-Time Formulation of Stochastic ADMM and Its Variants
von: Li, Chris Junchi
Veröffentlicht: (2024)

Memory-Efficient 4-bit Preconditioned Stochastic Optimization
von: Li, Jingyang, et al.
Veröffentlicht: (2024)

Fast Adaptation for Deep Learning-based Wireless Communications
von: Wang, Ouya, et al.
Veröffentlicht: (2024)

On the Convergence Analysis of an Inexact Preconditioned Stochastic Model-Based Algorithm
von: Bao, Chenglong, et al.
Veröffentlicht: (2025)

Stochastic Preconditioning for Neural Field Optimization
von: Ling, Selena, et al.
Veröffentlicht: (2025)

Constrained Stochastic Spectral Preconditioning Converges for Nonconvex Objectives
von: Oikonomidis, Konstantinos, et al.
Veröffentlicht: (2026)

Adaptive Step Sizes for Preconditioned Stochastic Gradient Descent
von: Köhne, Frederik, et al.
Veröffentlicht: (2023)

FedAPM: Federated Learning via ADMM with Partial Model Personalization
von: Zhu, Shengkun, et al.
Veröffentlicht: (2025)

Preconditioning for Accelerated Gradient Descent Optimization and Regularization
von: Ye, Qiang
Veröffentlicht: (2024)

Contextual Strongly Convex Simulation Optimization: Optimize then Predict with Inexact Solutions
von: Lin, Nifei, et al.
Veröffentlicht: (2025)

SAPPHIRE: Preconditioned Stochastic Variance Reduction for Faster Large-Scale Statistical Learning
von: Sun, Jingruo, et al.
Veröffentlicht: (2025)

On the Convergence of Single-Loop Stochastic Bilevel Optimization with Approximate Implicit Differentiation
von: Zhou, Yubo, et al.
Veröffentlicht: (2026)

On ADMM in Heterogeneous Federated Learning: Personalization, Robustness, and Fairness
von: Zhu, Shengkun, et al.
Veröffentlicht: (2024)

OSDN: Improving Delta Rule with Provable Online Preconditioning in Linear Attention
von: Zhou, Chenyu, et al.
Veröffentlicht: (2026)

Revisiting Inexact Fixed-Point Iterations for Min-Max Problems: Stochasticity and Structured Nonconvexity
von: Alacaoglu, Ahmet, et al.
Veröffentlicht: (2024)

Enhancing Hypergradients Estimation: A Study of Preconditioning and Reparameterization
von: Ye, Zhenzhang, et al.
Veröffentlicht: (2024)

PROMISE: Preconditioned Stochastic Optimization Methods by Incorporating Scalable Curvature Estimates
von: Frangella, Zachary, et al.
Veröffentlicht: (2023)

Federated Smoothing ADMM for Localization
von: Mirzaeifard, Reza, et al.
Veröffentlicht: (2025)

How Does Preconditioning Guide Feature Learning in Deep Neural Networks?
von: Yoshida, Kotaro, et al.
Veröffentlicht: (2025)

DP-KFC: Data-Free Preconditioning for Privacy-Preserving Deep Learning
von: Bosch, Marc Molina Van den, et al.
Veröffentlicht: (2026)

Inferring Data Preconditions from Deep Learning Models for Trustworthy Prediction in Deployment
von: Ahmed, Shibbir, et al.
Veröffentlicht: (2024)

Stochastic Two Points Method for Deep Model Zeroth-order Optimization
von: Pang, Yijiang, et al.
Veröffentlicht: (2024)

Preconditioned One-Step Generative Modeling for Bayesian Inverse Problems in Function Spaces
von: Cheng, Zilan, et al.
Veröffentlicht: (2026)

Deep Learning-Enhanced Preconditioning for Efficient Conjugate Gradient Solvers in Large-Scale PDE Systems
von: Li, Rui, et al.
Veröffentlicht: (2024)

Universal Sequence Preconditioning
von: Marsden, Annie, et al.
Veröffentlicht: (2025)

A Riemannian ADMM
von: Li, Jiaxiang, et al.
Veröffentlicht: (2022)

Rethinking Consistent Multi-Label Classification Under Inexact Supervision
von: Wang, Wei, et al.
Veröffentlicht: (2025)

Personalized Federated Learning via ADMM with Moreau Envelope
von: Zhu, Shengkun, et al.
Veröffentlicht: (2023)

AA-DLADMM: An Accelerated ADMM-based Framework for Training Deep Neural Networks
von: Ebrahimi, Zeinab, et al.
Veröffentlicht: (2024)

SALAAD: Sparse And Low-Rank Adaptation via ADMM for Large Language Model Inference
von: Ma, Hao, et al.
Veröffentlicht: (2026)

LUCID: Attention with Preconditioned Representations
von: Duvvuri, Sai Surya, et al.
Veröffentlicht: (2026)

Preconditioning for Physics-Informed Neural Networks
von: Liu, Songming, et al.
Veröffentlicht: (2024)

Distributionally Robust Federated Learning: An ADMM Algorithm
von: Bai, Wen, et al.
Veröffentlicht: (2025)