HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Su, Yang, Yan, Na, Deng, Yansha, Dohler, Mischa, Schober, Robert |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Heterogeneous LoRA for Federated Fine-tuning of On-Device Foundation Models
par: Cho, Yae Jee, et autres
Publié: (2024)
par: Cho, Yae Jee, et autres
Publié: (2024)
FedQuad: Adaptive Layer-wise LoRA Deployment and Activation Quantization for Federated Fine-Tuning
par: Li, Rukuo, et autres
Publié: (2025)
par: Li, Rukuo, et autres
Publié: (2025)
ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
par: Zuo, Jingwei, et autres
Publié: (2026)
par: Zuo, Jingwei, et autres
Publié: (2026)
SHE-LoRA: Selective Homomorphic Encryption for Federated Tuning with Heterogeneous LoRA
par: Liu, Jianmin, et autres
Publié: (2025)
par: Liu, Jianmin, et autres
Publié: (2025)
LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
par: Zhu, Zhanda, et autres
Publié: (2025)
par: Zhu, Zhanda, et autres
Publié: (2025)
RBLA: Rank-Based-LoRA-Aggregation for Fine-tuning Heterogeneous Models in FLaaS
par: Chen, Shuaijun, et autres
Publié: (2024)
par: Chen, Shuaijun, et autres
Publié: (2024)
S-LoRA: Serving Thousands of Concurrent LoRA Adapters
par: Sheng, Ying, et autres
Publié: (2023)
par: Sheng, Ying, et autres
Publié: (2023)
Serving Heterogeneous LoRA Adapters in Distributed LLM Inference Systems
par: Jaiswal, Shashwat, et autres
Publié: (2025)
par: Jaiswal, Shashwat, et autres
Publié: (2025)
pFedLoRA: Model-Heterogeneous Personalized Federated Learning with LoRA Tuning
par: Yi, Liping, et autres
Publié: (2023)
par: Yi, Liping, et autres
Publié: (2023)
Fed-pilot: Optimizing LoRA Allocation for Efficient Federated Fine-Tuning with Heterogeneous Clients
par: Zhang, Zikai, et autres
Publié: (2024)
par: Zhang, Zikai, et autres
Publié: (2024)
Fed-HeLLo: Efficient Federated Foundation Model Fine-Tuning with Heterogeneous LoRA Allocation
par: Zhang, Zikai, et autres
Publié: (2025)
par: Zhang, Zikai, et autres
Publié: (2025)
Federated LoRA with Sparse Communication
par: Kuo, Kevin, et autres
Publié: (2024)
par: Kuo, Kevin, et autres
Publié: (2024)
FDLoRA: Personalized Federated Learning of Large Language Model via Dual LoRA Tuning
par: QI, Jiaxing, et autres
Publié: (2024)
par: QI, Jiaxing, et autres
Publié: (2024)
Co-LoRA: Collaborative Model Personalization on Heterogeneous Multi-Modal Clients
par: Seo, Minhyuk, et autres
Publié: (2025)
par: Seo, Minhyuk, et autres
Publié: (2025)
InfiniLoRA: Disaggregated Multi-LoRA Serving for Large Language Models
par: Chen, Hongyu, et autres
Publié: (2026)
par: Chen, Hongyu, et autres
Publié: (2026)
LoRA-C: Parameter-Efficient Fine-Tuning of Robust CNN for IoT Devices
par: Ding, Chuntao, et autres
Publié: (2024)
par: Ding, Chuntao, et autres
Publié: (2024)
HLoRA: Efficient Federated Learning System for LLM Heterogeneous Fine-Tuning
par: Liu, Qianli, et autres
Publié: (2025)
par: Liu, Qianli, et autres
Publié: (2025)
Stabilizing Decentralized Federated Fine-Tuning via Topology-Aware Alternating LoRA
par: Wang, Xiaoyu, et autres
Publié: (2026)
par: Wang, Xiaoyu, et autres
Publié: (2026)
LobRA: Multi-tenant Fine-tuning over Heterogeneous Data
par: Lin, Sheng, et autres
Publié: (2025)
par: Lin, Sheng, et autres
Publié: (2025)
CaraServe: CPU-Assisted and Rank-Aware LoRA Serving for Generative LLM Inference
par: Li, Suyi, et autres
Publié: (2024)
par: Li, Suyi, et autres
Publié: (2024)
Unlocking the Edge deployment and ondevice acceleration of multi-LoRA enabled one-for-all foundational LLM
par: Kodavanti, Sravanth, et autres
Publié: (2026)
par: Kodavanti, Sravanth, et autres
Publié: (2026)
Predictive-LoRA: A Proactive and Fragmentation-Aware Serverless Inference System for LLMs
par: Ni, Yinan, et autres
Publié: (2025)
par: Ni, Yinan, et autres
Publié: (2025)
EcoLoRA: Communication-Efficient Federated Fine-Tuning of Large Language Models
par: Liu, Han, et autres
Publié: (2025)
par: Liu, Han, et autres
Publié: (2025)
FedRPCA: Enhancing Federated LoRA Aggregation Using Robust PCA
par: Jhunjhunwala, Divyansh, et autres
Publié: (2025)
par: Jhunjhunwala, Divyansh, et autres
Publié: (2025)
Robust Federated Finetuning of Foundation Models via Alternating Minimization of LoRA
par: Chen, Shuangyi, et autres
Publié: (2024)
par: Chen, Shuangyi, et autres
Publié: (2024)
Fed-SB: A Silver Bullet for Extreme Communication Efficiency and Performance in (Private) Federated LoRA Fine-Tuning
par: Singhal, Raghav, et autres
Publié: (2025)
par: Singhal, Raghav, et autres
Publié: (2025)
Efficient Multi-Adapter LLM Serving via Cross-Model KV-Cache Reuse with Activated LoRA
par: Li, Allison, et autres
Publié: (2025)
par: Li, Allison, et autres
Publié: (2025)
Improving LoRA in Privacy-preserving Federated Learning
par: Sun, Youbang, et autres
Publié: (2024)
par: Sun, Youbang, et autres
Publié: (2024)
CoLLM: Continuous Adaptation for SLO-Aware LLM Serving on Shared GPU Clusters
par: Huang, Shaoyuan, et autres
Publié: (2026)
par: Huang, Shaoyuan, et autres
Publié: (2026)
ServerlessLoRA: Minimizing Latency and Cost in Serverless Inference for LoRA-Based LLMs
par: Sui, Yifan, et autres
Publié: (2025)
par: Sui, Yifan, et autres
Publié: (2025)
HSplitLoRA: A Heterogeneous Split Parameter-Efficient Fine-Tuning Framework for Large Language Models
par: Lin, Zheng, et autres
Publié: (2025)
par: Lin, Zheng, et autres
Publié: (2025)
LoRA-based Parameter-Efficient LLMs for Continuous Learning in Edge-based Malware Detection
par: Rondanini, Christian, et autres
Publié: (2026)
par: Rondanini, Christian, et autres
Publié: (2026)
FedRA: A Random Allocation Strategy for Federated Tuning to Unleash the Power of Heterogeneous Clients
par: Su, Shangchao, et autres
Publié: (2023)
par: Su, Shangchao, et autres
Publié: (2023)
LLM-PQ: Serving LLM on Heterogeneous Clusters with Phase-Aware Partition and Adaptive Quantization
par: Zhao, Juntao, et autres
Publié: (2024)
par: Zhao, Juntao, et autres
Publié: (2024)
Adaptive Parameter-Efficient Federated Fine-Tuning on Heterogeneous Devices
par: Liu, Jun, et autres
Publié: (2024)
par: Liu, Jun, et autres
Publié: (2024)
Compress then Serve: Serving Thousands of LoRA Adapters with Little Overhead
par: Brüel-Gabrielsson, Rickard, et autres
Publié: (2024)
par: Brüel-Gabrielsson, Rickard, et autres
Publié: (2024)
Energy-Efficient Wireless Federated Learning via Doubly Adaptive Quantization
par: Han, Xuefeng, et autres
Publié: (2024)
par: Han, Xuefeng, et autres
Publié: (2024)
Memory-Efficient Split Federated Learning for LLM Fine-Tuning on Heterogeneous Mobile Devices
par: Chen, Xiaopei, et autres
Publié: (2025)
par: Chen, Xiaopei, et autres
Publié: (2025)
FedFQ: Federated Learning with Fine-Grained Quantization
par: Li, Haowei, et autres
Publié: (2024)
par: Li, Haowei, et autres
Publié: (2024)
JORA: JAX Tensor-Parallel LoRA Library for Retrieval Augmented Fine-Tuning
par: Tahir, Anique, et autres
Publié: (2024)
par: Tahir, Anique, et autres
Publié: (2024)
Documents similaires
-
Heterogeneous LoRA for Federated Fine-tuning of On-Device Foundation Models
par: Cho, Yae Jee, et autres
Publié: (2024) -
FedQuad: Adaptive Layer-wise LoRA Deployment and Activation Quantization for Federated Fine-Tuning
par: Li, Rukuo, et autres
Publié: (2025) -
ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
par: Zuo, Jingwei, et autres
Publié: (2026) -
SHE-LoRA: Selective Homomorphic Encryption for Federated Tuning with Heterogeneous LoRA
par: Liu, Jianmin, et autres
Publié: (2025) -
LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
par: Zhu, Zhanda, et autres
Publié: (2025)