Buchumschlag

Weights Shuffling for Improving DPSGD in Transformer-based Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Yang, Jungang, Ji, Zhe, Xiang, Liyao
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Cryptography and Security
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Clip Body and Tail Separately: High Probability Guarantees for DPSGD with Heavy Tails
von: Sha, Haichao, et al.
Veröffentlicht: (2024)

To Shuffle or not to Shuffle: Auditing DP-SGD with Shuffling
von: Annamalai, Meenatchi Sundaram Muthu Selva, et al.
Veröffentlicht: (2024)

FERRET: Private Deep Learning Faster And Better Than DPSGD
von: Zagardo, David
Veröffentlicht: (2025)

Enhancing DPSGD via Per-Sample Momentum and Low-Pass Filtering
von: Xu, Xincheng, et al.
Veröffentlicht: (2025)

Crafter: Facial Feature Crafting against Inversion-based Identity Theft on Deep Models
von: Wang, Shiming, et al.
Veröffentlicht: (2024)

Shuffling for Semantic Secrecy
von: Chen, Fupei, et al.
Veröffentlicht: (2025)

PVMark: Enabling Public Verifiability for LLM Watermarking Schemes
von: Duan, Haohua, et al.
Veröffentlicht: (2025)

Trade-off Functions for DP-SGD with Subsampling based on Random Shuffling: Tight Upper and Lower Bounds
von: van Dijk, Marten, et al.
Veröffentlicht: (2026)

Beyond Statistical Estimation: Differentially Private Individual Computation via Shuffling
von: Wang, Shaowei, et al.
Veröffentlicht: (2024)

How to Securely Shuffle? A survey about Secure Shufflers for privacy-preserving computations
von: Damie, Marc, et al.
Veröffentlicht: (2025)

Secure Transformer Inference Protocol
von: Yuan, Mu, et al.
Veröffentlicht: (2023)

Fooling SHAP with Output Shuffling Attacks
von: Yuan, Jun, et al.
Veröffentlicht: (2024)

Moss: Proxy Model-based Full-Weight Aggregation in Federated Learning with Heterogeneous Models
von: Cai, Yifeng, et al.
Veröffentlicht: (2025)

Robust Single-message Shuffle Differential Privacy Protocol for Accurate Distribution Estimation
von: Li, Xiaoguang, et al.
Veröffentlicht: (2026)

Near-Optimal Reinforcement Learning with Shuffle Differential Privacy
von: Bai, Shaojie, et al.
Veröffentlicht: (2024)

Improving the Trade-off Between Watermark Strength and Speculative Sampling Efficiency for Language Models
von: He, Weiqing, et al.
Veröffentlicht: (2026)

Improving DNS Exfiltration Detection via Transformer Pretraining
von: Tomić, Miloš, et al.
Veröffentlicht: (2026)

Differentially Private Block-wise Gradient Shuffle for Deep Learning
von: Zagardo, David
Veröffentlicht: (2024)

Towards Code Watermarking with Dual-Channel Transformations
von: Yang, Borui, et al.
Veröffentlicht: (2023)

Verifying LLM Inference to Detect Model Weight Exfiltration
von: Rinberg, Roy, et al.
Veröffentlicht: (2025)

CLIBE: Detecting Dynamic Backdoors in Transformer-based NLP Models
von: Zeng, Rui, et al.
Veröffentlicht: (2024)

SelectFormer: Private and Practical Data Selection for Transformers
von: Ouyang, Xu, et al.
Veröffentlicht: (2023)

Improving the Privacy and Practicality of Objective Perturbation for Differentially Private Linear Learners
von: Redberg, Rachel, et al.
Veröffentlicht: (2023)

Scalable DP-SGD: Shuffling vs. Poisson Subsampling
von: Chua, Lynn, et al.
Veröffentlicht: (2024)

DeepCore: Simple Fingerprint Construction for Differentiating Homologous and Piracy Models
von: Sun, Haifeng, et al.
Veröffentlicht: (2024)

Hashed Watermark as a Filter: Defeating Forging and Overwriting Attacks in Weight-based Neural Network Watermarking
von: Yao, Yuan, et al.
Veröffentlicht: (2025)

Gradient-Free Privacy Leakage in Federated Language Models through Selective Weight Tampering
von: Rashid, Md Rafi Ur, et al.
Veröffentlicht: (2023)

Self-Supervised Transformer-based Contrastive Learning for Intrusion Detection Systems
von: Koukoulis, Ippokratis, et al.
Veröffentlicht: (2025)

Differentially Private Subspace Fine-Tuning for Large Language Models
von: Zheng, Lele, et al.
Veröffentlicht: (2026)

Using Graph Theory for Improving Machine Learning-based Detection of Cyber Attacks
von: Zonneveld, Giacomo, et al.
Veröffentlicht: (2024)

Curator Attack: When Blackbox Differential Privacy Auditing Loses Its Power
von: Wang, Shiming, et al.
Veröffentlicht: (2024)

FBChain: A Blockchain-based Federated Learning Model with Efficiency and Secure Communication
von: Li, Yang, et al.
Veröffentlicht: (2023)

TREC: APT Tactic / Technique Recognition via Few-Shot Provenance Subgraph Learning
von: Lv, Mingqi, et al.
Veröffentlicht: (2024)

SLIP: Securing LLMs IP Using Weights Decomposition
von: Refael, Yehonathan, et al.
Veröffentlicht: (2024)

Unelicitable Backdoors in Language Models via Cryptographic Transformer Circuits
von: Draguns, Andis, et al.
Veröffentlicht: (2024)

A Lean Transformer Model for Dynamic Malware Analysis and Detection
von: Quertier, Tony, et al.
Veröffentlicht: (2024)

Securing Transformer-based AI Execution via Unified TEEs and Crypto-protected Accelerators
von: Xue, Jiaqi, et al.
Veröffentlicht: (2025)

Improving Location-based Thermal Emission Side-Channel Analysis Using Iterative Transfer Learning
von: Lou, Tun-Chieh, et al.
Veröffentlicht: (2024)

Understanding In-Context Learning of Linear Models in Transformers Through an Adversarial Lens
von: Anwar, Usman, et al.
Veröffentlicht: (2024)

Learning from End User Data with Shuffled Differential Privacy over Kernel Densities
von: Wagner, Tal
Veröffentlicht: (2025)