Buchumschlag

FLoRIST: Singular Value Thresholding for Efficient and Accurate Federated Fine-Tuning of Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ramesh, Hariharan, Dass, Jyotikrishna
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence Distributed, Parallel, and Cluster Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Efficient Federated Fine-Tuning of Large Language Models with Layer Dropout
von: Wang, Shilong, et al.
Veröffentlicht: (2025)

FLoRA: Federated Fine-Tuning Large Language Models with Heterogeneous Low-Rank Adaptations
von: Wang, Ziyao, et al.
Veröffentlicht: (2024)

SFPrompt: Communication-Efficient Split Federated Fine-Tuning for Large Pre-Trained Models over Resource-Limited Devices
von: Cao, Linxiao, et al.
Veröffentlicht: (2024)

HSplitLoRA: A Heterogeneous Split Parameter-Efficient Fine-Tuning Framework for Large Language Models
von: Lin, Zheng, et al.
Veröffentlicht: (2025)

Enhancing Data Quality in Federated Fine-Tuning of Foundation Models
von: Zhao, Wanru, et al.
Veröffentlicht: (2024)

Learning Like Humans: Resource-Efficient Federated Fine-Tuning through Cognitive Developmental Stages
von: Wu, Yebo, et al.
Veröffentlicht: (2025)

A Closer Look at Personalized Fine-Tuning in Heterogeneous Federated Learning
von: Chen, Minghui, et al.
Veröffentlicht: (2025)

DLoRA: Distributed Parameter-Efficient Fine-Tuning Solution for Large Language Model
von: Gao, Chao, et al.
Veröffentlicht: (2024)

Adaptive Rank Allocation for Federated Parameter-Efficient Fine-Tuning of Language Models
von: Wu, Fei, et al.
Veröffentlicht: (2025)

LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
von: Zhu, Zhanda, et al.
Veröffentlicht: (2025)

FedRef: Bayesian Fine-Tuning using a Reference Model to Mitigate Catastrophic Forgetting for Heterogeneous Federated Learning
von: Yoon, Taehwan, et al.
Veröffentlicht: (2025)

The Future of Large Language Model Pre-training is Federated
von: Sani, Lorenzo, et al.
Veröffentlicht: (2024)

Towards the Next Frontier of LLMs, Training on Private Data: A Cross-Domain Benchmark for Federated Fine-Tuning
von: Jimenez-Gutierrez, Daniel M., et al.
Veröffentlicht: (2026)

Resource-Efficient Personal Large Language Models Fine-Tuning with Collaborative Edge Computing
von: Ye, Shengyuan, et al.
Veröffentlicht: (2024)

Federated Fine-Tuning of Sparsely-Activated Large Language Models on Resource-Constrained Devices
von: Chen, Fahao, et al.
Veröffentlicht: (2025)

Symbiosis: Multi-Adapter Inference and Fine-Tuning
von: Gupta, Saransh, et al.
Veröffentlicht: (2025)

Communication-Efficient Federated Fine-Tuning
von: Theologitis, Michael, et al.
Veröffentlicht: (2025)

Fine-Tuning GPT-5 for GPU Kernel Generation
von: Tehrani, Ali, et al.
Veröffentlicht: (2026)

CG-FedLLM: How to Compress Gradients in Federated Fune-tuning for Large Language Models
von: Wu, Huiwen, et al.
Veröffentlicht: (2024)

Intelligent Sampling of Extreme-Scale Turbulence Datasets for Accurate and Efficient Spatiotemporal Model Training
von: Brewer, Wesley, et al.
Veröffentlicht: (2025)

Calibre: Towards Fair and Accurate Personalized Federated Learning with Self-Supervised Learning
von: Chen, Sijia, et al.
Veröffentlicht: (2024)

FedPop: Federated Population-based Hyperparameter Tuning
von: Chen, Haokun, et al.
Veröffentlicht: (2023)

SPD: Sync-Point Drop for Efficient Tensor Parallelism of Large Language Models
von: Kim, Han-Byul, et al.
Veröffentlicht: (2025)

Efficient Fine-Grained GPU Performance Modeling for Distributed Deep Learning of LLM
von: Zhang, Biyao, et al.
Veröffentlicht: (2025)

Echo: Efficient Co-Scheduling of Hybrid Online-Offline Tasks for Large Language Model Serving
von: Wang, Zhibin, et al.
Veröffentlicht: (2025)

Fisher Information-based Efficient Curriculum Federated Learning with Large Language Models
von: Liu, Ji, et al.
Veröffentlicht: (2024)

FedTrans: Efficient Federated Learning via Multi-Model Transformation
von: Zhu, Yuxuan, et al.
Veröffentlicht: (2024)

Efficient Client Selection in Federated Learning
von: Marfo, William, et al.
Veröffentlicht: (2025)

HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization
von: Su, Yang, et al.
Veröffentlicht: (2024)

On Using Large-Batches in Federated Learning
von: Tyagi, Sahil
Veröffentlicht: (2025)

SpaFL: Communication-Efficient Federated Learning with Sparse Models and Low computational Overhead
von: Kim, Minsu, et al.
Veröffentlicht: (2024)

Efficient Federated Learning with Timely Update Dissemination
von: Jia, Juncheng, et al.
Veröffentlicht: (2025)

Efficient Asynchronous Federated Learning with Sparsification and Quantization
von: Jia, Juncheng, et al.
Veröffentlicht: (2023)

FedRA: A Random Allocation Strategy for Federated Tuning to Unleash the Power of Heterogeneous Clients
von: Su, Shangchao, et al.
Veröffentlicht: (2023)

Efficient Federated Learning with Heterogeneous Data and Adaptive Dropout
von: Liu, Ji, et al.
Veröffentlicht: (2025)

Hermes: Memory-Efficient Pipeline Inference for Large Models on Edge Devices
von: Han, Xueyuan, et al.
Veröffentlicht: (2024)

LCFed: An Efficient Clustered Federated Learning Framework for Heterogeneous Data
von: Zhang, Yuxin, et al.
Veröffentlicht: (2025)

FLStore: Efficient Federated Learning Storage for non-training workloads
von: Khan, Ahmad Faraz, et al.
Veröffentlicht: (2025)

Efficient Federated Finetuning of Tiny Transformers with Resource-Constrained Devices
von: Pfeiffer, Kilian, et al.
Veröffentlicht: (2024)

SSFL: Discovering Sparse Unified Subnetworks at Initialization for Efficient Federated Learning
von: Ohib, Riyasat, et al.
Veröffentlicht: (2024)