Buchumschlag

HeteroTune: Efficient Federated Learning for Large Heterogeneous Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Jia, Ruofan, Xie, Weiying, Lei, Jie, Ma, Jitao, Qin, Haonan, Fang, Leyuan
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Computation and Language Computer Vision and Pattern Recognition Distributed, Parallel, and Cluster Computing 68T07 I.2.11
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SI-ChainFL: Shapley-Incentivized Secure Federated Learning for High-Speed Rail Data Sharing
von: Zhao, Mingjie, et al.
Veröffentlicht: (2026)

Learning In Chaos: Efficient Autoscaling and Self-Healing for Multi-Party Distributed Training
von: Feng, Wenjiao, et al.
Veröffentlicht: (2025)

TPI-LLM: Serving 70B-scale LLMs Efficiently on Low-resource Edge Devices
von: Li, Zonghang, et al.
Veröffentlicht: (2024)

Aergia: Leveraging Heterogeneity in Federated Learning Systems
von: Cox, Bart, et al.
Veröffentlicht: (2022)

Towards Optimal Heterogeneous Client Sampling in Multi-Model Federated Learning
von: Zhang, Haoran, et al.
Veröffentlicht: (2025)

Bridging Generalization Gap of Heterogeneous Federated Clients Using Generative Models
von: Niu, Ziru, et al.
Veröffentlicht: (2025)

Foam Segmentation in Wastewater Treatment Plants: A Federated Learning Approach with Segment Anything Model 2
von: Duman, Mehmet Batuhan, et al.
Veröffentlicht: (2025)

Serial Parallel Reliability Redundancy Allocation Optimization for Energy Efficient and Fault Tolerant Cloud Computing
von: Krishna, Gutha Jaya
Veröffentlicht: (2024)

Prima.cpp: Fast 30-70B LLM Inference on Heterogeneous and Low-Resource Home Clusters
von: Li, Zonghang, et al.
Veröffentlicht: (2025)

SPARK: Igniting Communication-Efficient Decentralized Learning via Stage-wise Projected NTK and Accelerated Regularization
von: Xia, Li
Veröffentlicht: (2025)

Asynchronous Byzantine Federated Learning
von: Cox, Bart, et al.
Veröffentlicht: (2024)

When Does Global Attention Help? A Unified Empirical Study on Atomistic Graph Learning
von: Chowdhury, Arindam, et al.
Veröffentlicht: (2025)

Training Diffusion Models with Federated Learning
von: de Goede, Matthijs, et al.
Veröffentlicht: (2024)

Parameterizing Federated Continual Learning for Reproducible Research
von: Cox, Bart, et al.
Veröffentlicht: (2024)

Accelerating Geo-distributed Machine Learning with Network-Aware Adaptive Tree and Auxiliary Route
von: Li, Zonghang, et al.
Veröffentlicht: (2024)

Asynchronous Multi-Server Federated Learning for Geo-Distributed Clients
von: Zuo, Yuncong, et al.
Veröffentlicht: (2024)

FedPLT: Scalable, Resource-Efficient, and Heterogeneity-Aware Federated Learning via Partial Layer Training
von: Dabaja, Ahmad, et al.
Veröffentlicht: (2026)

Hyper-parameter Optimization for Federated Learning with Step-wise Adaptive Mechanism
von: Saadati, Yasaman, et al.
Veröffentlicht: (2024)

Partitioned Neural Network Training via Synthetic Intermediate Labels
von: Karadağ, Cevat Volkan, et al.
Veröffentlicht: (2024)

ADF-LoRA: Alternating Low-Rank Aggregation for Decentralized Federated Fine-Tuning
von: Wang, Xiaoyu, et al.
Veröffentlicht: (2025)

EPARA: Parallelizing Categorized AI Inference in Edge Clouds
von: Wang, Yubo, et al.
Veröffentlicht: (2025)

Securing Federated Sensitive Topic Classification against Poisoning Attacks
von: Chu, Tianyue, et al.
Veröffentlicht: (2022)

Roadmap for Edge AI: A Dagstuhl Perspective
von: Ding, Aaron Yi, et al.
Veröffentlicht: (2021)

Connecting Large Language Model Agent to High Performance Computing Resource
von: Ma, Heng, et al.
Veröffentlicht: (2025)

Quantize Once, Train Fast: Allreduce-Compatible Compression with Provable Guarantees
von: Xin, Jihao, et al.
Veröffentlicht: (2023)

Comparison of Autoscaling Frameworks for Containerised Machine-Learning-Applications in a Local and Cloud Environment
von: Schroeder, Christian, et al.
Veröffentlicht: (2023)

Federated Learning with Differential Privacy
von: Banse, Adrien, et al.
Veröffentlicht: (2024)

SPEAR:Exact Gradient Inversion of Batches in Federated Learning
von: Dimitrov, Dimitar I., et al.
Veröffentlicht: (2024)

Federated Learning for Anomaly Detection in Energy Consumption Data: Assessing the Vulnerability to Adversarial Attacks
von: Telila, Yohannis Kifle, et al.
Veröffentlicht: (2025)

FedPhD: Federated Pruning with Hierarchical Learning of Diffusion Models
von: Long, Qianyu, et al.
Veröffentlicht: (2025)

A Full Compression Pipeline for Green Federated Learning in Communication-Constrained Environments
von: Colybes, Elouan, et al.
Veröffentlicht: (2026)

WLB-LLM: Workload-Balanced 4D Parallelism for Large Language Model Training
von: Wang, Zheng, et al.
Veröffentlicht: (2025)

SparkAttention: High-Performance Multi-Head Attention for Large Models on Volta GPU Architecture
von: Xu, Youxuan, et al.
Veröffentlicht: (2025)

AutoDDL: Automatic Distributed Deep Learning with Near-Optimal Bandwidth Cost
von: Chen, Jinfan, et al.
Veröffentlicht: (2023)

How Machine Learning-Data Driven Replication Strategies Enhance Fault Tolerance in Large-Scale Distributed Systems
von: Murimi, Almond Kiruthu
Veröffentlicht: (2025)

A Survey on Efficient Federated Learning Methods for Foundation Model Training
von: Woisetschläger, Herbert, et al.
Veröffentlicht: (2024)

Federated Learning Model Aggregation in Heterogenous Aerial and Space Networks
von: Dong, Fan, et al.
Veröffentlicht: (2023)

DAGER: Exact Gradient Inversion for Large Language Models
von: Petrov, Ivo, et al.
Veröffentlicht: (2024)

AMP4EC: Adaptive Model Partitioning Framework for Efficient Deep Learning Inference in Edge Computing Environments
von: Zhang, Guilin, et al.
Veröffentlicht: (2025)

HFedATM: Hierarchical Federated Domain Generalization via Optimal Transport and Regularized Mean Aggregation
von: Nguyen, Thinh, et al.
Veröffentlicht: (2025)