On the Convergence of Federated Averaging under Partial Participation for Over-parameterized Neural Networks
Fuente:
arXiv
Salvato in:
| Autori principali: | Liu, Xin, li, Wei, Zhan, Dazhi, Pan, Yu, Ma, Xin, Ding, Yu, Pan, Zhisong |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2023
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Provable Acceleration of Nesterov's Accelerated Gradient Method over Heavy Ball Method in Training Over-Parameterized Neural Networks
di: Liu, Xin, et al.
Pubblicazione: (2022)
di: Liu, Xin, et al.
Pubblicazione: (2022)
Convergence Analysis of Natural Gradient Descent for Over-parameterized Physics-Informed Neural Networks
di: Xu, Xianliang, et al.
Pubblicazione: (2024)
di: Xu, Xianliang, et al.
Pubblicazione: (2024)
Accelerating Hybrid Federated Learning Convergence under Partial Participation
di: Bian, Jieming, et al.
Pubblicazione: (2023)
di: Bian, Jieming, et al.
Pubblicazione: (2023)
Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks
di: Liu, Fanghui, et al.
Pubblicazione: (2024)
di: Liu, Fanghui, et al.
Pubblicazione: (2024)
Depth-induced NTK: Bridging Over-parameterized Neural Networks and Deep Neural Kernels
di: Tian, Yong-Ming, et al.
Pubblicazione: (2025)
di: Tian, Yong-Ming, et al.
Pubblicazione: (2025)
Server-Proximal Aggregation for Federated Domain-Incremental Learning under Partial Participation: Task-Uniform Convergence and Backward Transfer
di: Xu, Longtao, et al.
Pubblicazione: (2026)
di: Xu, Longtao, et al.
Pubblicazione: (2026)
Incentive-Aware Federated Averaging with Performance Guarantees under Strategic Participation
di: Maleki, Fateme, et al.
Pubblicazione: (2026)
di: Maleki, Fateme, et al.
Pubblicazione: (2026)
Over-parameterization and Adversarial Robustness in Neural Networks: An Overview and Empirical Analysis
di: Gupta, Srishti, et al.
Pubblicazione: (2024)
di: Gupta, Srishti, et al.
Pubblicazione: (2024)
Graph Neural Networks for Graphs with Heterophily: A Survey
di: Zheng, Xin, et al.
Pubblicazione: (2022)
di: Zheng, Xin, et al.
Pubblicazione: (2022)
Quantifying the Optimization and Generalization Advantages of Graph Neural Networks Over Multilayer Perceptrons
di: Huang, Wei, et al.
Pubblicazione: (2023)
di: Huang, Wei, et al.
Pubblicazione: (2023)
Feature Averaging: An Implicit Bias of Gradient Descent Leading to Non-Robustness in Neural Networks
di: Li, Binghui, et al.
Pubblicazione: (2024)
di: Li, Binghui, et al.
Pubblicazione: (2024)
Convergence of Agnostic Federated Averaging
di: Herlock, et al.
Pubblicazione: (2025)
di: Herlock, et al.
Pubblicazione: (2025)
Understanding the Implicit Regularization of Gradient Descent in Over-parameterized Models
di: Ma, Jianhao, et al.
Pubblicazione: (2025)
di: Ma, Jianhao, et al.
Pubblicazione: (2025)
On the Benefits of Over-parameterization for Out-of-Distribution Generalization
di: Hao, Yifan, et al.
Pubblicazione: (2024)
di: Hao, Yifan, et al.
Pubblicazione: (2024)
Should Under-parameterized Student Networks Copy or Average Teacher Weights?
di: Şimşek, Berfin, et al.
Pubblicazione: (2023)
di: Şimşek, Berfin, et al.
Pubblicazione: (2023)
Implicit Graph Neural Diffusion Networks: Convergence, Generalization, and Over-Smoothing
di: Fu, Guoji, et al.
Pubblicazione: (2023)
di: Fu, Guoji, et al.
Pubblicazione: (2023)
Exact and Linear Convergence for Federated Learning under Arbitrary Client Participation is Attainable
di: Ying, Bicheng, et al.
Pubblicazione: (2025)
di: Ying, Bicheng, et al.
Pubblicazione: (2025)
Mitigating Over-Squashing in Graph Neural Networks by Spectrum-Preserving Sparsification
di: Liang, Langzhang, et al.
Pubblicazione: (2025)
di: Liang, Langzhang, et al.
Pubblicazione: (2025)
Exploiting Label Skewness for Spiking Neural Networks in Federated Learning
di: Yu, Di, et al.
Pubblicazione: (2024)
di: Yu, Di, et al.
Pubblicazione: (2024)
Self-Supervised Graph Neural Networks for Enhanced Feature Extraction in Heterogeneous Information Networks
di: Wei, Jianjun, et al.
Pubblicazione: (2024)
di: Wei, Jianjun, et al.
Pubblicazione: (2024)
A Neural Network Architecture Based on Attention Gate Mechanism for 3D Magnetotelluric Forward Modeling
di: Zhong, Xin, et al.
Pubblicazione: (2025)
di: Zhong, Xin, et al.
Pubblicazione: (2025)
A Validation Approach to Over-parameterized Matrix and Image Recovery
di: Ding, Lijun, et al.
Pubblicazione: (2022)
di: Ding, Lijun, et al.
Pubblicazione: (2022)
On the Convergence Analysis of Over-Parameterized Variational Autoencoders: A Neural Tangent Kernel Perspective
di: Wang, Li, et al.
Pubblicazione: (2024)
di: Wang, Li, et al.
Pubblicazione: (2024)
Target Networks and Over-parameterization Stabilize Off-policy Bootstrapping with Function Approximation
di: Che, Fengdi, et al.
Pubblicazione: (2024)
di: Che, Fengdi, et al.
Pubblicazione: (2024)
Decentralized Federated Learning by Partial Message Exchange
di: Sha, Shan, et al.
Pubblicazione: (2026)
di: Sha, Shan, et al.
Pubblicazione: (2026)
Average-Over-Time Spiking Neural Networks for Uncertainty Estimation in Regression
di: Sun, Tao, et al.
Pubblicazione: (2024)
di: Sun, Tao, et al.
Pubblicazione: (2024)
FedDPC : Handling Data Heterogeneity and Partial Client Participation in Federated Learning
di: Sen, Mrinmay, et al.
Pubblicazione: (2025)
di: Sen, Mrinmay, et al.
Pubblicazione: (2025)
Optimal Convergence Rates of Deep Neural Network Classifiers
di: Zhang, Zihan, et al.
Pubblicazione: (2025)
di: Zhang, Zihan, et al.
Pubblicazione: (2025)
Enhanced Federated Deep Multi-View Clustering under Uncertainty Scenario
di: Wei, Bingjun, et al.
Pubblicazione: (2025)
di: Wei, Bingjun, et al.
Pubblicazione: (2025)
Distributed Perceptron under Bounded Staleness, Partial Participation, and Noisy Communication
di: Jain, Keval, et al.
Pubblicazione: (2026)
di: Jain, Keval, et al.
Pubblicazione: (2026)
Random-Matrix-Induced Simplicity Bias in Over-parameterized Variational Quantum Circuits
di: Qi, Jun, et al.
Pubblicazione: (2026)
di: Qi, Jun, et al.
Pubblicazione: (2026)
Stochastic Trust-Region Methods for Over-parameterized Models
di: Yang, Aike, et al.
Pubblicazione: (2026)
di: Yang, Aike, et al.
Pubblicazione: (2026)
Mamba-Based Graph Convolutional Networks: Tackling Over-smoothing with Selective State Space
di: He, Xin, et al.
Pubblicazione: (2025)
di: He, Xin, et al.
Pubblicazione: (2025)
Accelerated Convergence of Stochastic Heavy Ball Method under Anisotropic Gradient Noise
di: Pan, Rui, et al.
Pubblicazione: (2023)
di: Pan, Rui, et al.
Pubblicazione: (2023)
Visualizing, Rethinking, and Mining the Loss Landscape of Deep Neural Networks
di: Xu, Yichu, et al.
Pubblicazione: (2024)
di: Xu, Yichu, et al.
Pubblicazione: (2024)
SafeRedirect: Defeating Internal Safety Collapse via Task-Completion Redirection in Frontier LLMs
di: Pan, Chao, et al.
Pubblicazione: (2026)
di: Pan, Chao, et al.
Pubblicazione: (2026)
Super-fast Rates of Convergence for Neural Network Classifiers under the Hard Margin Condition
di: Tepakbong, Nathanael, et al.
Pubblicazione: (2025)
di: Tepakbong, Nathanael, et al.
Pubblicazione: (2025)
Delayed Random Partial Gradient Averaging for Federated Learning
di: Hu, Xinyi
Pubblicazione: (2024)
di: Hu, Xinyi
Pubblicazione: (2024)
Communication-Efficient Federated Learning under Dynamic Device Arrival and Departure: Convergence Analysis and Algorithm Design
di: Chang, Zhan-Lun, et al.
Pubblicazione: (2024)
di: Chang, Zhan-Lun, et al.
Pubblicazione: (2024)
Convergence Analysis of Split Federated Learning on Heterogeneous Data
di: Han, Pengchao, et al.
Pubblicazione: (2024)
di: Han, Pengchao, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Provable Acceleration of Nesterov's Accelerated Gradient Method over Heavy Ball Method in Training Over-Parameterized Neural Networks
di: Liu, Xin, et al.
Pubblicazione: (2022) -
Convergence Analysis of Natural Gradient Descent for Over-parameterized Physics-Informed Neural Networks
di: Xu, Xianliang, et al.
Pubblicazione: (2024) -
Accelerating Hybrid Federated Learning Convergence under Partial Participation
di: Bian, Jieming, et al.
Pubblicazione: (2023) -
Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks
di: Liu, Fanghui, et al.
Pubblicazione: (2024) -
Depth-induced NTK: Bridging Over-parameterized Neural Networks and Deep Neural Kernels
di: Tian, Yong-Ming, et al.
Pubblicazione: (2025)