Buchumschlag

EFTViT: Efficient Federated Training of Vision Transformers with Masked Images on Resource-Constrained Clients

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wu, Meihan, Chang, Tao, Miao, Cui, Zhou, Jie, Li, Chun, Xu, Xiangyu, Li, Ming, Wang, Xiaodong
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computer Vision and Pattern Recognition Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

FedVLA: Federated Vision-Language-Action Learning with Dual Gating Mixture-of-Experts for Robotic Manipulation
von: Miao, Cui, et al.
Veröffentlicht: (2025)

Unleashing Efficient Asynchronous RL Post-Training via Staleness-Constrained Rollout Coordination
von: Li, Haoyang, et al.
Veröffentlicht: (2026)

REFT: Resource-Efficient Federated Training Framework for Heterogeneous and Resource-Constrained Environments
von: Desai, Humaid Ahmed, et al.
Veröffentlicht: (2023)

Efficient Federated Finetuning of Tiny Transformers with Resource-Constrained Devices
von: Pfeiffer, Kilian, et al.
Veröffentlicht: (2024)

Efficient Resource-Constrained Training of Transformers via Subspace Optimization
von: Nguyen, Le-Trung, et al.
Veröffentlicht: (2025)

Does Calcium Supplementation Negate Erythropoiesis With Endurance Training?
von: Meihan Guo, et al.
Veröffentlicht: (2025)

Federating to Grow Transformers with Constrained Resources without Model Sharing
von: Shen, Shikun, et al.
Veröffentlicht: (2024)

An Experimental Study on Exploring Strong Lightweight Vision Transformers via Masked Image Modeling Pre-Training
von: Gao, Jin, et al.
Veröffentlicht: (2024)

Federated Fine-Tuning of Sparsely-Activated Large Language Models on Resource-Constrained Devices
von: Chen, Fahao, et al.
Veröffentlicht: (2025)

Robust Federated Learning against Noisy Clients via Masked Optimization
von: Jiang, Xuefeng, et al.
Veröffentlicht: (2025)

Warming Up for Zeroth-Order Federated Pre-Training with Low Resource Clients
von: Legate, Gwen, et al.
Veröffentlicht: (2025)

Online Client Scheduling and Resource Allocation for Efficient Federated Edge Learning
von: Gao, Zhidong, et al.
Veröffentlicht: (2024)

Federated Knowledge Transfer Fine-tuning Large Server Model with Resource-Constrained IoT Clients
von: Chen, Shaoyuan, et al.
Veröffentlicht: (2024)

Efficient Self-supervised Vision Pretraining with Local Masked Reconstruction
von: Chen, Jun, et al.
Veröffentlicht: (2022)

Emulating Full Participation: An Effective and Fair Client Selection Strategy for Federated Learning
von: Li, Qingming, et al.
Veröffentlicht: (2024)

Client-Verifiable and Efficient Federated Unlearning in Low-Altitude Wireless Networks
von: Xu, Yuhua, et al.
Veröffentlicht: (2026)

Heterogeneity-Aware Client Sampling for Optimal and Efficient Federated Learning
von: Weng, Shudi, et al.
Veröffentlicht: (2025)

DP-BREM: Differentially-Private and Byzantine-Robust Federated Learning with Client Momentum
von: Gu, Xiaolan, et al.
Veröffentlicht: (2023)

MDTv2: Masked Diffusion Transformer is a Strong Image Synthesizer
von: Gao, Shanghua, et al.
Veröffentlicht: (2023)

MaskMamba: A Hybrid Mamba-Transformer Model for Masked Image Generation
von: Chen, Wenchao, et al.
Veröffentlicht: (2024)

GFPL: Generative Federated Prototype Learning for Resource-Constrained and Data-Imbalanced Vision Task
von: Lu, Shiwei, et al.
Veröffentlicht: (2026)

S^2-Transformer for Mask-Aware Hyperspectral Image Reconstruction
von: Wang, Jiamian, et al.
Veröffentlicht: (2022)

Restore Anything with Masks: Leveraging Mask Image Modeling for Blind All-in-One Image Restoration
von: Qin, Chu-Jie, et al.
Veröffentlicht: (2024)

Masked BRep Autoencoder via Hierarchical Graph Transformer
von: Li, Yifei, et al.
Veröffentlicht: (2026)

Ranking-based Client Selection with Imitation Learning for Efficient Federated Learning
von: Tian, Chunlin, et al.
Veröffentlicht: (2024)

3D-EffiViTCaps: 3D Efficient Vision Transformer with Capsule for Medical Image Segmentation
von: Gan, Dongwei, et al.
Veröffentlicht: (2024)

Sparse Model Inversion: Efficient Inversion of Vision Transformers for Data-Free Applications
von: Hu, Zixuan, et al.
Veröffentlicht: (2025)

Federated Client-tailored Adapter for Medical Image Segmentation
von: Hu, Guyue, et al.
Veröffentlicht: (2025)

A Resource-Adaptive Approach for Federated Learning under Resource-Constrained Environments
von: Zhang, Ruirui, et al.
Veröffentlicht: (2024)

Efficient Client Selection in Federated Learning
von: Marfo, William, et al.
Veröffentlicht: (2025)

The Power of Bias: Optimizing Client Selection in Federated Learning with Heterogeneous Differential Privacy
von: Ma, Jiating, et al.
Veröffentlicht: (2024)

FedEve: On Bridging the Client Drift and Period Drift for Cross-device Federated Learning
von: Shen, Tao, et al.
Veröffentlicht: (2025)

Efficient Federated Learning against Heterogeneous and Non-stationary Client Unavailability
von: Xiang, Ming, et al.
Veröffentlicht: (2024)

Robust Federated Learning Mitigates Client-side Training Data Distribution Inference Attacks
von: Xu, Yichang, et al.
Veröffentlicht: (2024)

FedConPE: Efficient Federated Conversational Bandits with Heterogeneous Clients
von: Li, Zhuohua, et al.
Veröffentlicht: (2024)

Communication-Efficient Federated AUC Maximization with Cyclic Client Participation
von: Vangapally, Umesh, et al.
Veröffentlicht: (2026)

FEDBUD: Joint Incentive and Privacy Optimization for Resource-Constrained Federated Learning
von: Liu, Tao, et al.
Veröffentlicht: (2026)

Camel: Energy-Aware LLM Inference on Resource-Constrained Devices
von: Xu, Hao, et al.
Veröffentlicht: (2025)

Bridging Memory Gaps: Scaling Federated Learning for Heterogeneous Clients
von: Wu, Yebo, et al.
Veröffentlicht: (2024)

Efficient, VRAM-Constrained xLM Inference on Clients
von: Ukarande, Aditya, et al.
Veröffentlicht: (2026)