Buchumschlag

Fine-tuning Multimodal Transformers on Edge: A Parallel Split Learning Approach

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Fudala, Timo, Tsouvalas, Vasileios, Meratnia, Nirvana
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Distributed, Parallel, and Cluster Computing Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Communication-Efficient Federated Learning through Adaptive Weight Clustering and Server-Side Distillation
von: Tsouvalas, Vasileios, et al.
Veröffentlicht: (2024)

EncCluster: Scalable Functional Encryption in Federated Learning through Weight Clustering and Probabilistic Filters
von: Tsouvalas, Vasileios, et al.
Veröffentlicht: (2024)

EFU: Enforcing Federated Unlearning via Functional Encryption
von: Mohammadi, Samaneh, et al.
Veröffentlicht: (2025)

TSFLora: Token-Compressed Split Fine-Tuning for Wireless Edge Networks
von: Qiang, Xianke, et al.
Veröffentlicht: (2026)

MP-SL: Multihop Parallel Split Learning
von: Tirana, Joana, et al.
Veröffentlicht: (2024)

Towards Integrated Fine-tuning and Inference when Generative AI meets Edge Intelligence
von: Chen, Ning, et al.
Veröffentlicht: (2024)

SplitFT: An Adaptive Federated Split Learning System For LLMs Fine-Tuning
von: Shan, Yimeng, et al.
Veröffentlicht: (2026)

Enhancing Split Learning with Sharded and Blockchain-Enabled SplitFed Approaches
von: Sokhankhosh, Amirreza, et al.
Veröffentlicht: (2025)

Model Partition and Resource Allocation for Split Learning in Vehicular Edge Networks
von: Yu, Lu, et al.
Veröffentlicht: (2024)

Energy-Efficient Split Learning for Fine-Tuning Large Language Models in Edge Networks
von: Li, Zuguang, et al.
Veröffentlicht: (2024)

Edge-Parallel Graph Encoder Embedding
von: Lubonja, Ariel, et al.
Veröffentlicht: (2024)

Efficient Split Learning LSTM Models for FPGA-based Edge IoT Devices
von: Molina, Romina Soledad, et al.
Veröffentlicht: (2025)

A Survey on Federated Fine-tuning of Large Language Models
von: Wu, Yebo, et al.
Veröffentlicht: (2025)

Flexible Personalized Split Federated Learning for On-Device Fine-Tuning of Foundation Models
von: Yuan, Tianjun, et al.
Veröffentlicht: (2025)

Rethinking Resource Management in Edge Learning: A Joint Pre-training and Fine-tuning Design Paradigm
von: Lyu, Zhonghao, et al.
Veröffentlicht: (2024)

Parallel Split Learning with Global Sampling
von: Kohankhaki, Mohammad, et al.
Veröffentlicht: (2024)

Heterogeneous LoRA for Federated Fine-tuning of On-Device Foundation Models
von: Cho, Yae Jee, et al.
Veröffentlicht: (2024)

ElasticMM: Efficient Multimodal LLMs Serving with Elastic Multimodal Parallelism
von: Liu, Zedong, et al.
Veröffentlicht: (2025)

GSplit: Scaling Graph Neural Network Training on Large Graphs via Split-Parallelism
von: Polisetty, Sandeep, et al.
Veröffentlicht: (2023)

Rel-HNN: Split Parallel Hypergraph Neural Network for Learning on Relational Databases
von: Alam, Md. Tanvir, et al.
Veröffentlicht: (2025)

Heterogeneous Parallelism for Multimodal Large Language Model Training
von: Karnati, Yashaswi, et al.
Veröffentlicht: (2026)

Resource-efficient Parallel Split Learning in Heterogeneous Edge Computing
von: Zhang, Mingjin, et al.
Veröffentlicht: (2024)

HelixPipe: Efficient Distributed Training of Long Sequence Transformers with Attention Parallel Pipeline Parallelism
von: Zhang, Geng, et al.
Veröffentlicht: (2025)

RBLA: Rank-Based-LoRA-Aggregation for Fine-tuning Heterogeneous Models in FLaaS
von: Chen, Shuaijun, et al.
Veröffentlicht: (2024)

DSP: Dynamic Sequence Parallelism for Multi-Dimensional Transformers
von: Zhao, Xuanlei, et al.
Veröffentlicht: (2024)

Secure Federated Learning Across Heterogeneous Cloud and High-Performance Computing Resources -- A Case Study on Federated Fine-tuning of LLaMA 2
von: Li, Zilinghan, et al.
Veröffentlicht: (2024)

Kraken: Inherently Parallel Transformers For Efficient Multi-Device Inference
von: Prabhakar, Rohan Baskar, et al.
Veröffentlicht: (2024)

Heterogeneous Tasks Offloading in Vehicular Edge Computing: A Federated Meta Deep Reinforcement Learning Approach
von: Huang, Yaorong, et al.
Veröffentlicht: (2026)

Semantic-aware Token Selection and Resource Optimization for Communication-efficient Split Federated Fine-tuning in Edge Intelligence
von: Qiang, Xianke, et al.
Veröffentlicht: (2026)

Workflow Optimization for Parallel Split Learning
von: Tirana, Joana, et al.
Veröffentlicht: (2024)

Parallel Track Transformers: Enabling Fast GPU Inference with Reduced Synchronization
von: Wang, Chong, et al.
Veröffentlicht: (2026)

MobiZO: Enabling Efficient LLM Fine-Tuning at the Edge via Inference Engines
von: Gao, Lei, et al.
Veröffentlicht: (2024)

Communication-Computation Pipeline Parallel Split Learning over Wireless Edge Networks
von: Liu, Chenyu, et al.
Veröffentlicht: (2025)

Convergence Analysis of Split Federated Learning on Heterogeneous Data
von: Han, Pengchao, et al.
Veröffentlicht: (2024)

The Impact of Cut Layer Selection in Split Federated Learning
von: Dachille, Justin, et al.
Veröffentlicht: (2024)

Training Machine Learning models at the Edge: A Survey
von: Khouas, Aymen Rayane, et al.
Veröffentlicht: (2024)

SplitLoRA: A Split Parameter-Efficient Fine-Tuning Framework for Large Language Models
von: Lin, Zheng, et al.
Veröffentlicht: (2024)

Accelerating Wireless Distributed Learning via Hybrid Split and Federated Learning Optimization
von: Guo, Kun, et al.
Veröffentlicht: (2025)

Communication and Computation Efficient Split Federated Learning in O-RAN
von: Gu, Shunxian, et al.
Veröffentlicht: (2025)

Ampere: Communication-Efficient and High-Accuracy Split Federated Learning
von: Zhang, Zihan, et al.
Veröffentlicht: (2025)