FeedSign: Robust Full-parameter Federated Fine-tuning of Large Models with Extremely Low Communication Overhead of One Bit
Fuente:
arXiv
Salvato in:
| Autori principali: | Cai, Zhijie, Chen, Haolong, Zhu, Guangxu |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Three Birds, One Stone: Solving the Communication-Memory-Privacy Trilemma in LLM Fine-tuning Over Wireless Networks with Zeroth-Order Optimization
di: Cai, Zhijie, et al.
Pubblicazione: (2026)
di: Cai, Zhijie, et al.
Pubblicazione: (2026)
One-Bit Model Aggregation for Differentially Private and Byzantine-Robust Personalized Federated Learning
di: Lan, Muhang, et al.
Pubblicazione: (2025)
di: Lan, Muhang, et al.
Pubblicazione: (2025)
Communication-and-Computation Efficient Split Federated Learning: Gradient Aggregation and Resource Management
di: Liang, Yipeng, et al.
Pubblicazione: (2025)
di: Liang, Yipeng, et al.
Pubblicazione: (2025)
A Survey on Federated Fine-tuning of Large Language Models
di: Wu, Yebo, et al.
Pubblicazione: (2025)
di: Wu, Yebo, et al.
Pubblicazione: (2025)
AI-in-the-Loop Sensing and Communication Joint Design for Edge Intelligence
di: Cai, Zhijie, et al.
Pubblicazione: (2025)
di: Cai, Zhijie, et al.
Pubblicazione: (2025)
Low-Latency Federated Fine-Tuning for Large Language Models Over Wireless Networks
di: Pang, Zhiwen, et al.
Pubblicazione: (2026)
di: Pang, Zhiwen, et al.
Pubblicazione: (2026)
Semantic-aware Token Selection and Resource Optimization for Communication-efficient Split Federated Fine-tuning in Edge Intelligence
di: Qiang, Xianke, et al.
Pubblicazione: (2026)
di: Qiang, Xianke, et al.
Pubblicazione: (2026)
EcoLoRA: Communication-Efficient Federated Fine-Tuning of Large Language Models
di: Liu, Han, et al.
Pubblicazione: (2025)
di: Liu, Han, et al.
Pubblicazione: (2025)
Modular Architecture for High-Performance and Low Overhead Data Transfers
di: Swargo, Rasman Mubtasim, et al.
Pubblicazione: (2025)
di: Swargo, Rasman Mubtasim, et al.
Pubblicazione: (2025)
Heterogeneous Federated Fine-Tuning with Parallel One-Rank Adaptation
di: Zhang, Zikai, et al.
Pubblicazione: (2026)
di: Zhang, Zikai, et al.
Pubblicazione: (2026)
Robust and Scalable Renaming with Subquadratic Bits
di: Bai, Sirui, et al.
Pubblicazione: (2025)
di: Bai, Sirui, et al.
Pubblicazione: (2025)
SpaFL: Communication-Efficient Federated Learning with Sparse Models and Low computational Overhead
di: Kim, Minsu, et al.
Pubblicazione: (2024)
di: Kim, Minsu, et al.
Pubblicazione: (2024)
AMSP: Reducing Communication Overhead of ZeRO for Efficient LLM Training
di: Chen, Qiaoling, et al.
Pubblicazione: (2023)
di: Chen, Qiaoling, et al.
Pubblicazione: (2023)
Heterogeneous LoRA for Federated Fine-tuning of On-Device Foundation Models
di: Cho, Yae Jee, et al.
Pubblicazione: (2024)
di: Cho, Yae Jee, et al.
Pubblicazione: (2024)
FedBiOT: LLM Local Fine-tuning in Federated Learning without Full Model
di: Wu, Feijie, et al.
Pubblicazione: (2024)
di: Wu, Feijie, et al.
Pubblicazione: (2024)
Memory-Efficient Federated Fine-Tuning of Large Language Models via Layer Pruning
di: Wu, Yebo, et al.
Pubblicazione: (2025)
di: Wu, Yebo, et al.
Pubblicazione: (2025)
Reducing Communication Overhead in Federated Learning for Network Anomaly Detection with Adaptive Client Selection
di: Marfo, William, et al.
Pubblicazione: (2025)
di: Marfo, William, et al.
Pubblicazione: (2025)
Efficient Long Context Fine-tuning with Chunk Flow
di: Yuan, Xiulong, et al.
Pubblicazione: (2025)
di: Yuan, Xiulong, et al.
Pubblicazione: (2025)
Robust Federated Fine-Tuning in Heterogeneous Networks with Unreliable Connections: An Aggregation View
di: Wang, Yanmeng, et al.
Pubblicazione: (2025)
di: Wang, Yanmeng, et al.
Pubblicazione: (2025)
NAVIS: Concurrent Search and Update with Low Position-Seeking Overhead in On-SSD Graph-Based Vector Search
di: Song, Jaeyong, et al.
Pubblicazione: (2026)
di: Song, Jaeyong, et al.
Pubblicazione: (2026)
Checkmate: Zero-Overhead Model Checkpointing via Network Gradient Replication
di: Bhardwaj, Ankit, et al.
Pubblicazione: (2025)
di: Bhardwaj, Ankit, et al.
Pubblicazione: (2025)
Privacy-preserving Chunk Scheduling in a BitTorrent Implementation of Federated Learning
di: Li, Naicheng, et al.
Pubblicazione: (2026)
di: Li, Naicheng, et al.
Pubblicazione: (2026)
Rethinking Resource Management in Edge Learning: A Joint Pre-training and Fine-tuning Design Paradigm
di: Lyu, Zhonghao, et al.
Pubblicazione: (2024)
di: Lyu, Zhonghao, et al.
Pubblicazione: (2024)
LobRA: Multi-tenant Fine-tuning over Heterogeneous Data
di: Lin, Sheng, et al.
Pubblicazione: (2025)
di: Lin, Sheng, et al.
Pubblicazione: (2025)
FLoRA: Federated Fine-Tuning Large Language Models with Heterogeneous Low-Rank Adaptations
di: Wang, Ziyao, et al.
Pubblicazione: (2024)
di: Wang, Ziyao, et al.
Pubblicazione: (2024)
ESSPI: ECDSA/Schnorr Signed Program Input for BitVMX
di: Lerner, Sergio Demian, et al.
Pubblicazione: (2025)
di: Lerner, Sergio Demian, et al.
Pubblicazione: (2025)
pFedLVM: A Large Vision Model (LVM)-Driven and Latent Feature-Based Personalized Federated Learning Framework in Autonomous Driving
di: Kou, Wei-Bin, et al.
Pubblicazione: (2024)
di: Kou, Wei-Bin, et al.
Pubblicazione: (2024)
FedBiF: Communication-Efficient Federated Learning via Bits Freezing
di: Li, Shiwei, et al.
Pubblicazione: (2025)
di: Li, Shiwei, et al.
Pubblicazione: (2025)
Lion Cub: Minimizing Communication Overhead in Distributed Lion
di: Ishikawa, Satoki, et al.
Pubblicazione: (2024)
di: Ishikawa, Satoki, et al.
Pubblicazione: (2024)
DFedSat: Communication-Efficient and Robust Decentralized Federated Learning for LEO Satellite Constellations
di: Yang, Minghao, et al.
Pubblicazione: (2024)
di: Yang, Minghao, et al.
Pubblicazione: (2024)
Communication-Efficient Federated Fine-Tuning
di: Theologitis, Michael, et al.
Pubblicazione: (2025)
di: Theologitis, Michael, et al.
Pubblicazione: (2025)
FlashCommunication V2: Bit Splitting and Spike Reserving for Any Bit Communication
di: Li, Qingyuan, et al.
Pubblicazione: (2025)
di: Li, Qingyuan, et al.
Pubblicazione: (2025)
Divergence-Based Adaptive Aggregation for Byzantine Robust Federated Learning
di: Xiao, Bingnan, et al.
Pubblicazione: (2026)
di: Xiao, Bingnan, et al.
Pubblicazione: (2026)
KaMPIng: Flexible and (Near) Zero-Overhead C++ Bindings for MPI
di: Uhl, Tim Niklas, et al.
Pubblicazione: (2024)
di: Uhl, Tim Niklas, et al.
Pubblicazione: (2024)
On the Bit Complexity of Iterated Memory
di: Toyos-Marfurt, Guillermo, et al.
Pubblicazione: (2024)
di: Toyos-Marfurt, Guillermo, et al.
Pubblicazione: (2024)
Federated Single Sign-On and Zero Trust Co-design for AI and HPC Digital Research Infrastructures
di: Alam, Sadaf R., et al.
Pubblicazione: (2024)
di: Alam, Sadaf R., et al.
Pubblicazione: (2024)
Parallelize Over Data Particle Advection: Participation, Ping Pong Particles, and Overhead
di: Wang, Zhe, et al.
Pubblicazione: (2024)
di: Wang, Zhe, et al.
Pubblicazione: (2024)
Understanding and Reducing Metadata-Driven Host Overheads in Sampling-Based GNN Training
di: Gong, Yidong, et al.
Pubblicazione: (2026)
di: Gong, Yidong, et al.
Pubblicazione: (2026)
CacheFL: Privacy-Preserving and Efficient Federated Cache Model Fine-Tuning for Vision-Language Models
di: Yi, Mengjun, et al.
Pubblicazione: (2025)
di: Yi, Mengjun, et al.
Pubblicazione: (2025)
FedFQ: Federated Learning with Fine-Grained Quantization
di: Li, Haowei, et al.
Pubblicazione: (2024)
di: Li, Haowei, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Three Birds, One Stone: Solving the Communication-Memory-Privacy Trilemma in LLM Fine-tuning Over Wireless Networks with Zeroth-Order Optimization
di: Cai, Zhijie, et al.
Pubblicazione: (2026) -
One-Bit Model Aggregation for Differentially Private and Byzantine-Robust Personalized Federated Learning
di: Lan, Muhang, et al.
Pubblicazione: (2025) -
Communication-and-Computation Efficient Split Federated Learning: Gradient Aggregation and Resource Management
di: Liang, Yipeng, et al.
Pubblicazione: (2025) -
A Survey on Federated Fine-tuning of Large Language Models
di: Wu, Yebo, et al.
Pubblicazione: (2025) -
AI-in-the-Loop Sensing and Communication Joint Design for Edge Intelligence
di: Cai, Zhijie, et al.
Pubblicazione: (2025)