Buchumschlag

Wireless Federated Multi-Task LLM Fine-Tuning via Sparse-and-Orthogonal LoRA

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yang, Nuocheng, Wang, Sihua, Huan, Ouwen, Chen, Mingzhe, Quek, Tony Q. S., Yin, Changchuan
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Secure and Private Distributed Bayesian Federated Learning Design
von: Yang, Nuocheng, et al.
Veröffentlicht: (2026)

Two Stage Wireless Federated LoRA Fine-Tuning with Sparsified Orthogonal Updates
von: Kim, Bumjun, et al.
Veröffentlicht: (2025)

Language-oriented Semantic Communication for Image Transmission with Fine-Tuned Diffusion Model
von: Wei, Xinfeng, et al.
Veröffentlicht: (2024)

Disentangling Task Conflicts in Multi-Task LoRA via Orthogonal Gradient Projection
von: Yang, Ziyu, et al.
Veröffentlicht: (2026)

Digital Over-the-Air Federated Learning in Multi-Antenna Systems
von: Wang, Sihua, et al.
Veröffentlicht: (2023)

LoRA-FAIR: Federated LoRA Fine-Tuning with Aggregation and Initialization Refinement
von: Bian, Jieming, et al.
Veröffentlicht: (2024)

Video Semantic Communication with Major Object Extraction and Contextual Video Encoding
von: Li, Haopeng, et al.
Veröffentlicht: (2024)

CE-LoRA: Computation-Efficient LoRA Fine-Tuning for Language Models
von: Chen, Guanduo, et al.
Veröffentlicht: (2025)

Multi-Task LLM with LoRA Fine-Tuning for Automated Cancer Staging and Biomarker Extraction
von: Shao, Jiahao, et al.
Veröffentlicht: (2026)

LUNE: Efficient LLM Unlearning via LoRA Fine-Tuning with Negative Examples
von: Liu, Yezi, et al.
Veröffentlicht: (2025)

LoRA-PAR: A Flexible Dual-System LoRA Partitioning Approach to Efficient LLM Fine-Tuning
von: Huang, Yining, et al.
Veröffentlicht: (2025)

Federated LoRA with Sparse Communication
von: Kuo, Kevin, et al.
Veröffentlicht: (2024)

DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models
von: Deng, Guanzhi, et al.
Veröffentlicht: (2026)

Stabilizing Decentralized Federated Fine-Tuning via Topology-Aware Alternating LoRA
von: Wang, Xiaoyu, et al.
Veröffentlicht: (2026)

SHE-LoRA: Selective Homomorphic Encryption for Federated Tuning with Heterogeneous LoRA
von: Liu, Jianmin, et al.
Veröffentlicht: (2025)

Attention-based UNet enabled Lightweight Image Semantic Communication System over Internet of Things
von: Ma, Guoxin, et al.
Veröffentlicht: (2024)

Adaptive LoRA Experts Allocation and Selection for Federated Fine-Tuning
von: Wang, Lei, et al.
Veröffentlicht: (2025)

FedMomentum: Preserving LoRA Training Momentum in Federated Fine-Tuning
von: Yan, Peishen, et al.
Veröffentlicht: (2026)

FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning
von: Bian, Jieming, et al.
Veröffentlicht: (2026)

FedLoDrop: Federated LoRA with Dropout for Generalized LLM Fine-tuning
von: Xie, Sijing, et al.
Veröffentlicht: (2025)

Multi-modal Image and Radio Frequency Fusion for Optimizing Vehicle Positioning
von: Huan, Ouwen, et al.
Veröffentlicht: (2024)

OPLoRA: Orthogonal Projection LoRA Prevents Catastrophic Forgetting during Parameter-Efficient Fine-Tuning
von: Xiong, Yifeng, et al.
Veröffentlicht: (2025)

FedLoRA-Optimizer: Federated LoRA Fine-Tuning with Global and Local Optimization in Heterogeneous Data Scenarios
von: Zhao, Jianzhe, et al.
Veröffentlicht: (2025)

HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
von: Tian, Chunlin, et al.
Veröffentlicht: (2024)

A Federated Fine-Tuning Paradigm of Foundation Models in Heterogenous Wireless Networks
von: Wang, Jingyi, et al.
Veröffentlicht: (2025)

HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization
von: Su, Yang, et al.
Veröffentlicht: (2024)

FinLoRA: Benchmarking LoRA Methods for Fine-Tuning LLMs on Financial Datasets
von: Wang, Dannong, et al.
Veröffentlicht: (2025)

LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
von: Zhu, Zhanda, et al.
Veröffentlicht: (2025)

KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
von: Azimi, Rambod, et al.
Veröffentlicht: (2024)

JORA: JAX Tensor-Parallel LoRA Library for Retrieval Augmented Fine-Tuning
von: Tahir, Anique, et al.
Veröffentlicht: (2024)

ADF-LoRA: Alternating Low-Rank Aggregation for Decentralized Federated Fine-Tuning
von: Wang, Xiaoyu, et al.
Veröffentlicht: (2025)

R-LoRA: Randomized Multi-Head LoRA for Efficient Multi-Task Learning
von: Liu, Jinda, et al.
Veröffentlicht: (2025)

CLoQ: Enhancing Fine-Tuning of Quantized LLMs via Calibrated LoRA Initialization
von: Deng, Yanxia, et al.
Veröffentlicht: (2025)

Rethinking the Rank Threshold for LoRA Fine-Tuning
von: Park, Juneyoung
Veröffentlicht: (2026)

Multi-modal Data based Semi-Supervised Learning for Vehicle Positioning
von: Huan, Ouwen, et al.
Veröffentlicht: (2024)

MaLoRA: Gated Modality LoRA for Key-Space Alignment in Multimodal LLM Fine-Tuning
von: Zheng, Xinhan, et al.
Veröffentlicht: (2025)

LoRA-Edit: Controllable First-Frame-Guided Video Editing via Mask-Aware LoRA Fine-Tuning
von: Gao, Chenjian, et al.
Veröffentlicht: (2025)

LoRA-Edge: Tensor-Train-Assisted LoRA for Practical CNN Fine-Tuning on Edge Devices
von: Kwak, Hyunseok, et al.
Veröffentlicht: (2025)

FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA
von: Lee, Seanie, et al.
Veröffentlicht: (2025)

MeTA-LoRA: Data-Efficient Multi-Task Fine-Tuning for Large Language Models
von: Cheng, Bo, et al.
Veröffentlicht: (2025)