Fine-Tuning Large Language Models with User-Level Differential Privacy
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Charles, Zachary, Ganesh, Arun, McKenna, Ryan, McMahan, H. Brendan, Mitchell, Nicole, Pillutla, Krishna, Rush, Keith |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
DrJAX: Scalable and Differentiable MapReduce Primitives in JAX
par: Rush, Keith, et autres
Publié: (2024)
par: Rush, Keith, et autres
Publié: (2024)
Federated Automatic Differentiation
par: Rush, Keith, et autres
Publié: (2023)
par: Rush, Keith, et autres
Publié: (2023)
Gradient Descent with Linearly Correlated Noise: Theory and Applications to Differential Privacy
par: Koloskova, Anastasia, et autres
Publié: (2023)
par: Koloskova, Anastasia, et autres
Publié: (2023)
An Inversion Theorem for Buffered Linear Toeplitz (BLT) Matrices and Applications to Streaming Differential Privacy
par: McMahan, H. Brendan, et autres
Publié: (2025)
par: McMahan, H. Brendan, et autres
Publié: (2025)
CacheFL: Privacy-Preserving and Efficient Federated Cache Model Fine-Tuning for Vision-Language Models
par: Yi, Mengjun, et autres
Publié: (2025)
par: Yi, Mengjun, et autres
Publié: (2025)
Communication-Efficient Language Model Training Scales Reliably and Robustly: Scaling Laws for DiLoCo
par: Charles, Zachary, et autres
Publié: (2025)
par: Charles, Zachary, et autres
Publié: (2025)
HiRace: Accurate and Fast Source-Level Race Checking of GPU Programs
par: Jacobson, John, et autres
Publié: (2024)
par: Jacobson, John, et autres
Publié: (2024)
A Spark Optimizer for Adaptive, Fine-Grained Parameter Tuning
par: Lyu, Chenghao, et autres
Publié: (2024)
par: Lyu, Chenghao, et autres
Publié: (2024)
Split Fine-Tuning for Large Language Models in Wireless Networks
par: Zhang, Songge, et autres
Publié: (2025)
par: Zhang, Songge, et autres
Publié: (2025)
Heterogeneous Federated Fine-Tuning with Parallel One-Rank Adaptation
par: Zhang, Zikai, et autres
Publié: (2026)
par: Zhang, Zikai, et autres
Publié: (2026)
Efficient and Near-Optimal Noise Generation for Streaming Differential Privacy
par: Dvijotham, Krishnamurthy, et autres
Publié: (2024)
par: Dvijotham, Krishnamurthy, et autres
Publié: (2024)
Elastic Mixture of Rank-Wise Experts for Knowledge Reuse in Federated Fine-Tuning
par: Wu, Yebo, et autres
Publié: (2025)
par: Wu, Yebo, et autres
Publié: (2025)
HLoRA: Efficient Federated Learning System for LLM Heterogeneous Fine-Tuning
par: Liu, Qianli, et autres
Publié: (2025)
par: Liu, Qianli, et autres
Publié: (2025)
ExpertWeave: Efficiently Serving Expert-Specialized Fine-Tuned Adapters at Scale
par: Shi, Ge, et autres
Publié: (2025)
par: Shi, Ge, et autres
Publié: (2025)
Robust Federated Fine-Tuning in Heterogeneous Networks with Unreliable Connections: An Aggregation View
par: Wang, Yanmeng, et autres
Publié: (2025)
par: Wang, Yanmeng, et autres
Publié: (2025)
MemAscend: System Memory Optimization for SSD-Offloaded LLM Fine-Tuning
par: Liaw, Yong-Cheng, et autres
Publié: (2025)
par: Liaw, Yong-Cheng, et autres
Publié: (2025)
MuxTune: Efficient Multi-Task LLM Fine-Tuning in Multi-Tenant Datacenters via Spatial-Temporal Backbone Multiplexing
par: Xue, Chunyu, et autres
Publié: (2026)
par: Xue, Chunyu, et autres
Publié: (2026)
Experiences Building Enterprise-Level Privacy-Preserving Federated Learning to Power AI for Science
par: Li, Zilinghan, et autres
Publié: (2025)
par: Li, Zilinghan, et autres
Publié: (2025)
EcoLoRA: Communication-Efficient Federated Fine-Tuning of Large Language Models
par: Liu, Han, et autres
Publié: (2025)
par: Liu, Han, et autres
Publié: (2025)
Analysis and Optimized CXL-Attached Memory Allocation for Long-Context LLM Fine-Tuning
par: Liaw, Yong-Cheng, et autres
Publié: (2025)
par: Liaw, Yong-Cheng, et autres
Publié: (2025)
Memory-Efficient Split Federated Learning for LLM Fine-Tuning on Heterogeneous Mobile Devices
par: Chen, Xiaopei, et autres
Publié: (2025)
par: Chen, Xiaopei, et autres
Publié: (2025)
LoRA-C: Parameter-Efficient Fine-Tuning of Robust CNN for IoT Devices
par: Ding, Chuntao, et autres
Publié: (2024)
par: Ding, Chuntao, et autres
Publié: (2024)
Memory-Efficient Federated Fine-Tuning of Large Language Models via Layer Pruning
par: Wu, Yebo, et autres
Publié: (2025)
par: Wu, Yebo, et autres
Publié: (2025)
Low-Latency Federated Fine-Tuning for Large Language Models Over Wireless Networks
par: Pang, Zhiwen, et autres
Publié: (2026)
par: Pang, Zhiwen, et autres
Publié: (2026)
On Fair Ordering and Differential Privacy
par: Cohen, Shir, et autres
Publié: (2025)
par: Cohen, Shir, et autres
Publié: (2025)
RingAda: Pipelining Large Model Fine-Tuning on Edge Devices with Scheduled Layer Unfreezing
par: Li, Liang, et autres
Publié: (2025)
par: Li, Liang, et autres
Publié: (2025)
ARGO: An Auto-Tuning Runtime System for Scalable GNN Training on Multi-Core Processor
par: Lin, Yi-Chien, et autres
Publié: (2024)
par: Lin, Yi-Chien, et autres
Publié: (2024)
FedQuad: Adaptive Layer-wise LoRA Deployment and Activation Quantization for Federated Fine-Tuning
par: Li, Rukuo, et autres
Publié: (2025)
par: Li, Rukuo, et autres
Publié: (2025)
SIMT/GPU Data Race Verification using ISCC and Intermediary Code Representations: A Case Study
par: Osterhout, Andrew, et autres
Publié: (2025)
par: Osterhout, Andrew, et autres
Publié: (2025)
Communication-Efficient Federated Fine-Tuning
par: Theologitis, Michael, et autres
Publié: (2025)
par: Theologitis, Michael, et autres
Publié: (2025)
LoHan: Low-Cost High-Performance Framework to Fine-Tune 100B Model on a Consumer GPU
par: Liao, Changyue, et autres
Publié: (2024)
par: Liao, Changyue, et autres
Publié: (2024)
Privacy-First Crowdsourcing: Blockchain and Local Differential Privacy in Crowdsourced Drone Services
par: Akram, Junaid, et autres
Publié: (2024)
par: Akram, Junaid, et autres
Publié: (2024)
Differential Privacy Preserving Distributed Quantum Computing
par: Zhong, Hui, et autres
Publié: (2024)
par: Zhong, Hui, et autres
Publié: (2024)
Three Birds, One Stone: Solving the Communication-Memory-Privacy Trilemma in LLM Fine-tuning Over Wireless Networks with Zeroth-Order Optimization
par: Cai, Zhijie, et autres
Publié: (2026)
par: Cai, Zhijie, et autres
Publié: (2026)
Tackling Privacy Heterogeneity in Differentially Private Federated Learning
par: Xu, Ruichen, et autres
Publié: (2026)
par: Xu, Ruichen, et autres
Publié: (2026)
Lightweight Federated Learning with Differential Privacy and Straggler Resilience
par: Hong, Shu, et autres
Publié: (2024)
par: Hong, Shu, et autres
Publié: (2024)
A Survey on Split Learning for LLM Fine-Tuning: Models, Systems, and Privacy Optimizations
par: Liu, Zihan, et autres
Publié: (2026)
par: Liu, Zihan, et autres
Publié: (2026)
SwizzlePerf: Hardware-Aware LLMs for GPU Kernel Performance Optimization
par: Tschand, Arya, et autres
Publié: (2025)
par: Tschand, Arya, et autres
Publié: (2025)
Exploring Selective Layer Fine-Tuning in Federated Learning
par: Sun, Yuchang, et autres
Publié: (2024)
par: Sun, Yuchang, et autres
Publié: (2024)
Predictive Bayesian Arbitration: A Scalable Noisy-OR Model with Service Criticality Awareness
par: Jangam, Anil, et autres
Publié: (2026)
par: Jangam, Anil, et autres
Publié: (2026)
Documents similaires
-
DrJAX: Scalable and Differentiable MapReduce Primitives in JAX
par: Rush, Keith, et autres
Publié: (2024) -
Federated Automatic Differentiation
par: Rush, Keith, et autres
Publié: (2023) -
Gradient Descent with Linearly Correlated Noise: Theory and Applications to Differential Privacy
par: Koloskova, Anastasia, et autres
Publié: (2023) -
An Inversion Theorem for Buffered Linear Toeplitz (BLT) Matrices and Applications to Streaming Differential Privacy
par: McMahan, H. Brendan, et autres
Publié: (2025) -
CacheFL: Privacy-Preserving and Efficient Federated Cache Model Fine-Tuning for Vision-Language Models
par: Yi, Mengjun, et autres
Publié: (2025)