Buchumschlag

Breaking the Memory Wall for Heterogeneous Federated Learning via Model Splitting

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tian, Chunlin, Li, Li, Tam, Kahou, Wu, Yebo, Xu, Chengzhong
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Distributed, Parallel, and Cluster Computing Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Breaking the Memory Wall for Heterogeneous Federated Learning via Progressive Training
von: Wu, Yebo, et al.
Veröffentlicht: (2024)

Bridging Memory Gaps: Scaling Federated Learning for Heterogeneous Clients
von: Wu, Yebo, et al.
Veröffentlicht: (2024)

Floe: Federated Specialization for Real-Time LLM-SLM Inference
von: Tian, Chunlin, et al.
Veröffentlicht: (2026)

A Survey on Federated Fine-tuning of Large Language Models
von: Wu, Yebo, et al.
Veröffentlicht: (2025)

Ranking-based Client Selection with Imitation Learning for Efficient Federated Learning
von: Tian, Chunlin, et al.
Veröffentlicht: (2024)

Beyond End-to-End: Dynamic Chain Optimization for Private LLM Adaptation on the Edge
von: Wu, Yebo, et al.
Veröffentlicht: (2026)

Heterogeneity-Aware Memory Efficient Federated Learning via Progressive Layer Freezing
von: Yebo, Wu, et al.
Veröffentlicht: (2024)

Memory-Efficient Federated Fine-Tuning of Large Language Models via Layer Pruning
von: Wu, Yebo, et al.
Veröffentlicht: (2025)

Convergence Analysis of Split Federated Learning on Heterogeneous Data
von: Han, Pengchao, et al.
Veröffentlicht: (2024)

Non-Federated Multi-Task Split Learning for Heterogeneous Sources
von: Zheng, Yilin, et al.
Veröffentlicht: (2024)

Learning Like Humans: Resource-Efficient Federated Fine-Tuning through Cognitive Developmental Stages
von: Wu, Yebo, et al.
Veröffentlicht: (2025)

FedGCS: A Generative Framework for Efficient Client Selection in Federated Learning via Gradient-based Optimization
von: Ning, Zhiyuan, et al.
Veröffentlicht: (2024)

Knowledge-Driven Federated Graph Learning on Model Heterogeneity
von: Wu, Zhengyu, et al.
Veröffentlicht: (2025)

Hypernetworks for Model-Heterogeneous Personalized Federated Learning
von: Zhang, Chen, et al.
Veröffentlicht: (2025)

Federated Model Heterogeneous Matryoshka Representation Learning
von: Yi, Liping, et al.
Veröffentlicht: (2024)

Accelerating Wireless Distributed Learning via Hybrid Split and Federated Learning Optimization
von: Guo, Kun, et al.
Veröffentlicht: (2025)

Robust Model Aggregation for Heterogeneous Federated Learning: Analysis and Optimizations
von: Shao, Yumeng, et al.
Veröffentlicht: (2024)

SMoFi: Step-wise Momentum Fusion for Split Federated Learning on Heterogeneous Data
von: Yang, Mingkun, et al.
Veröffentlicht: (2025)

Memory-Efficient Split Federated Learning for LLM Fine-Tuning on Heterogeneous Mobile Devices
von: Chen, Xiaopei, et al.
Veröffentlicht: (2025)

Efficient Federated Learning against Byzantine Attacks and Data Heterogeneity via Aggregating Normalized Gradients
von: Zuo, Shiyuan, et al.
Veröffentlicht: (2024)

A Unified Solution to Diverse Heterogeneities in One-shot Federated Learning
von: Bai, Jun, et al.
Veröffentlicht: (2024)

SemiSFL: Split Federated Learning on Unlabeled and Non-IID Data
von: Xu, Yang, et al.
Veröffentlicht: (2023)

Breaking the Prototype Bias Loop: Confidence-Aware Federated Contrastive Learning for Highly Imbalanced Clients
von: Wu, Tian-Shuang, et al.
Veröffentlicht: (2026)

STHFL: Spatio-Temporal Heterogeneous Federated Learning
von: Guo, Shunxin, et al.
Veröffentlicht: (2025)

An Efficient Subspace Algorithm for Federated Learning on Heterogeneous Data
von: Zhang, Jiaojiao, et al.
Veröffentlicht: (2025)

Achieving Linear Speedup in Asynchronous Federated Learning with Heterogeneous Clients
von: Wang, Xiaolu, et al.
Veröffentlicht: (2024)

Tackling Privacy Heterogeneity in Differentially Private Federated Learning
von: Xu, Ruichen, et al.
Veröffentlicht: (2026)

SplitFT: An Adaptive Federated Split Learning System For LLMs Fine-Tuning
von: Shan, Yimeng, et al.
Veröffentlicht: (2026)

pFedLoRA: Model-Heterogeneous Personalized Federated Learning with LoRA Tuning
von: Yi, Liping, et al.
Veröffentlicht: (2023)

Flexible Personalized Split Federated Learning for On-Device Fine-Tuning of Foundation Models
von: Yuan, Tianjun, et al.
Veröffentlicht: (2025)

The Impact of Cut Layer Selection in Split Federated Learning
von: Dachille, Justin, et al.
Veröffentlicht: (2024)

Local Gradient Regulation Stabilizes Federated Learning under Client Heterogeneity
von: Luo, Ping, et al.
Veröffentlicht: (2026)

FedSSA: Semantic Similarity-based Aggregation for Efficient Model-Heterogeneous Personalized Federated Learning
von: Yi, Liping, et al.
Veröffentlicht: (2023)

FedEx: Expediting Federated Learning over Heterogeneous Mobile Devices by Overlapping and Participant Selection
von: Geng, Jiaxiang, et al.
Veröffentlicht: (2024)

FedBAT: Communication-Efficient Federated Learning via Learnable Binarization
von: Li, Shiwei, et al.
Veröffentlicht: (2024)

FedSAE: A Novel Self-Adaptive Federated Learning Framework in Heterogeneous Systems
von: Li, Li, et al.
Veröffentlicht: (2021)

FedORGP: Guiding Heterogeneous Federated Learning with Orthogonality Regularization on Global Prototypes
von: Guo, Fucheng, et al.
Veröffentlicht: (2025)

MoEBlaze: Breaking the Memory Wall for Efficient MoE Training on Modern GPUs
von: Zhang, Jiyuan, et al.
Veröffentlicht: (2026)

GAS: Generative Activation-Aided Asynchronous Split Federated Learning
von: Yang, Jiarong, et al.
Veröffentlicht: (2024)

Communication and Computation Efficient Split Federated Learning in O-RAN
von: Gu, Shunxian, et al.
Veröffentlicht: (2025)