Buchumschlag

Gradient-Congruity Guided Federated Sparse Training

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tian, Chris Xing, Liu, Yibing, Li, Haoliang, Cheung, Ray C. C., Wang, Shiqi
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Neuron Activation Coverage: Rethinking Out-of-distribution Detection and Generalization
von: Liu, Yibing, et al.
Veröffentlicht: (2023)

Unraveling the Mechanics of Learning-Based Demonstration Selection for In-Context Learning
von: Liu, Hui, et al.
Veröffentlicht: (2024)

Spectral Surgery: Training-Free Refinement of LoRA via Gradient-Guided Singular Value Reweighting
von: Tian, Zailong, et al.
Veröffentlicht: (2026)

Training Data Selection with Gradient Orthogonality for Efficient Domain Adaptation
von: Zhang, Xiyang, et al.
Veröffentlicht: (2026)

PFedDST: Personalized Federated Learning with Decentralized Selection Training
von: Fan, Mengchen, et al.
Veröffentlicht: (2025)

SparseBalance: Load-Balanced Long Context Training with Dynamic Sparse Attention
von: Xu, Hongtao, et al.
Veröffentlicht: (2026)

DP-FedPGN: Finding Global Flat Minima for Differentially Private Federated Learning via Penalizing Gradient Norm
von: Liu, Junkang, et al.
Veröffentlicht: (2025)

Generalizing to New Dynamical Systems via Frequency Domain Adaptation
von: Qin, Tiexin, et al.
Veröffentlicht: (2025)

Geminio: Language-Guided Gradient Inversion Attacks in Federated Learning
von: Shan, Junjie, et al.
Veröffentlicht: (2024)

Internal Cross-layer Gradients for Extending Homogeneity to Heterogeneity in Federated Learning
von: Chan, Yun-Hin, et al.
Veröffentlicht: (2023)

FedBCD:Communication-Efficient Accelerated Block Coordinate Gradient Descent for Federated Learning
von: Liu, Junkang, et al.
Veröffentlicht: (2026)

Topology-Aware Revival for Efficient Sparse Training
von: Jin, Meiling, et al.
Veröffentlicht: (2026)

One-shot Federated Learning Methods: A Practical Guide
von: Liu, Xiang, et al.
Veröffentlicht: (2025)

Gradient Inversion Transcript: Leveraging Robust Generative Priors to Reconstruct Training Data from Gradient Leakage
von: Chen, Xinping, et al.
Veröffentlicht: (2025)

GAC: Stabilizing Asynchronous RL Training for LLMs via Gradient Alignment Control
von: Xu, Haofeng, et al.
Veröffentlicht: (2026)

Geometric Prior-Guided Federated Prompt Calibration
von: Luo, Fei, et al.
Veröffentlicht: (2025)

Gradient Inversion in Federated Reinforcement Learning
von: He, Shenghong
Veröffentlicht: (2025)

Training Free Guided Flow Matching with Optimal Control
von: Wang, Luran, et al.
Veröffentlicht: (2024)

Fast Adversarial Training against Sparse Attacks Requires Loss Smoothing
von: Zhong, Xuyang, et al.
Veröffentlicht: (2025)

Taming LLMs by Scaling Learning Rates with Gradient Grouping
von: Li, Siyuan, et al.
Veröffentlicht: (2025)

GaLore 2: Large-Scale LLM Pre-Training by Gradient Low-Rank Projection
von: Su, DiJia, et al.
Veröffentlicht: (2025)

Outlier Gradient Analysis: Efficiently Identifying Detrimental Training Samples for Deep Learning Models
von: Chhabra, Anshuman, et al.
Veröffentlicht: (2024)

Sparse Training for Federated Learning with Regularized Error Correction
von: Greidi, Ran, et al.
Veröffentlicht: (2023)

GradientStabilizer:Fix the Norm, Not the Gradient
von: Huang, Tianjin, et al.
Veröffentlicht: (2025)

FEED: Fairness-Enhanced Meta-Learning for Domain Generalization
von: Jiang, Kai, et al.
Veröffentlicht: (2024)

Decentralized Personalized Federated Learning based on a Conditional Sparse-to-Sparser Scheme
von: Long, Qianyu, et al.
Veröffentlicht: (2024)

DRAGD: A Federated Unlearning Data Reconstruction Attack Based on Gradient Differences
von: Ju, Bocheng, et al.
Veröffentlicht: (2025)

Sub-Scaling Laws: On the Role of Data Density and Training Strategies in LLMs
von: Chen, Zhengyu, et al.
Veröffentlicht: (2025)

GraSS: Scalable Data Attribution with Gradient Sparsification and Sparse Projection
von: Hu, Pingbang, et al.
Veröffentlicht: (2025)

FedConPE: Efficient Federated Conversational Bandits with Heterogeneous Clients
von: Li, Zhuohua, et al.
Veröffentlicht: (2024)

Adaptive Guidance for Local Training in Heterogeneous Federated Learning
von: Zhang, Jianqing, et al.
Veröffentlicht: (2024)

Training-free Ultra Small Model for Universal Sparse Reconstruction in Compressed Sensing
von: Tang, Chaoqing, et al.
Veröffentlicht: (2025)

Uncovering Gradient Inversion Risks in Practical Language Model Training
von: Feng, Xinguo, et al.
Veröffentlicht: (2025)

Gradient-Free Training of Quantized Neural Networks
von: Cohen, Noa, et al.
Veröffentlicht: (2024)

Communication-Efficient Federated Learning with Accelerated Client Gradient
von: Kim, Geeho, et al.
Veröffentlicht: (2022)

Operator-Theoretic Framework for Gradient-Free Federated Learning
von: Kumar, Mohit, et al.
Veröffentlicht: (2025)

A Universal Banach--Bregman Framework for Stochastic Iterations: Unifying Stochastic Mirror Descent, Learning and LLM Training
von: Zhang, Johnny R., et al.
Veröffentlicht: (2025)

Entropy-Gated Selective Policy Optimization:Token-Level Gradient Allocation for Hybrid Training of Large Language Models
von: Hu, Yuelin, et al.
Veröffentlicht: (2026)

Gradient-Informed Temporal Sampling Improves Rollout Accuracy in PDE Surrogate Training
von: Wang, Wenshuo, et al.
Veröffentlicht: (2026)

Provable Sparse Inversion and Token Relabel Enhanced One-shot Federated Learning with ViTs
von: Shen, Li, et al.
Veröffentlicht: (2026)