Buchumschlag

Privacy Ripple Effects from Adding or Removing Personal Information in Language Model Training

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Borkar, Jaydeep, Jagielski, Matthew, Lee, Katherine, Mireshghallah, Niloofar, Smith, David A., Choquette-Choo, Christopher A.
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Cryptography and Security
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Auditing Private Prediction
von: Chadha, Karan, et al.
Veröffentlicht: (2024)

Privacy Side Channels in Machine Learning Systems
von: Debenedetti, Edoardo, et al.
Veröffentlicht: (2023)

Poisoning Web-Scale Training Datasets is Practical
von: Carlini, Nicholas, et al.
Veröffentlicht: (2023)

Position: Privacy Is Not Just Memorization!
von: Mireshghallah, Niloofar, et al.
Veröffentlicht: (2025)

Language Models May Verbatim Complete Text They Were Not Explicitly Trained On
von: Liu, Ken Ziyu, et al.
Veröffentlicht: (2025)

Near Exact Privacy Amplification for Matrix Mechanisms
von: Choquette-Choo, Christopher A., et al.
Veröffentlicht: (2024)

Privacy Amplification for Matrix Mechanisms
von: Choquette-Choo, Christopher A., et al.
Veröffentlicht: (2023)

Privacy Auditing of Large Language Models
von: Panda, Ashwinee, et al.
Veröffentlicht: (2025)

LLMs unlock new paths to monetizing exploits
von: Carlini, Nicholas, et al.
Veröffentlicht: (2025)

Optimal Rates for $O(1)$-Smooth DP-SCO with a Single Epoch and Large Batches
von: Choquette-Choo, Christopher A., et al.
Veröffentlicht: (2024)

Synthetic Data Can Mislead Evaluations: Membership Inference as Machine Text Detection
von: Naseh, Ali, et al.
Veröffentlicht: (2025)

Phantom: General Backdoor Attacks on Retrieval Augmented Language Generation
von: Chaudhari, Harsh, et al.
Veröffentlicht: (2024)

The Last Iterate Advantage: Empirical Auditing and Principled Heuristic Analysis of Differentially Private SGD
von: Steinke, Thomas, et al.
Veröffentlicht: (2024)

Exploring the limits of strong membership inference attacks on large language models
von: Hayes, Jamie, et al.
Veröffentlicht: (2025)

PPMI: Privacy-Preserving LLM Interaction with Socratic Chain-of-Thought Reasoning and Homomorphically Encrypted Vector Databases
von: Bae, Yubeen, et al.
Veröffentlicht: (2025)

Exploring and Mitigating Adversarial Manipulation of Voting-Based Leaderboards
von: Huang, Yangsibo, et al.
Veröffentlicht: (2025)

Teach LLMs to Phish: Stealing Private Information from Language Models
von: Panda, Ashwinee, et al.
Veröffentlicht: (2024)

Black-Box Privacy Attacks on Shared Representations in Multitask Learning
von: Abascal, John, et al.
Veröffentlicht: (2025)

Are aligned neural networks adversarially aligned?
von: Carlini, Nicholas, et al.
Veröffentlicht: (2023)

Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory
von: Mireshghallah, Niloofar, et al.
Veröffentlicht: (2023)

Covert Attacks on Machine Learning Training in Passively Secure MPC
von: Jagielski, Matthew, et al.
Veröffentlicht: (2025)

User Inference Attacks on Large Language Models
von: Kandpal, Nikhil, et al.
Veröffentlicht: (2023)

Can Large Language Models Really Recognize Your Name?
von: Pham, Dzung, et al.
Veröffentlicht: (2025)

CIMemories: A Compositional Benchmark for Contextual Integrity of Persistent Memory in LLMs
von: Mireshghallah, Niloofar, et al.
Veröffentlicht: (2025)

Stealing Part of a Production Language Model
von: Carlini, Nicholas, et al.
Veröffentlicht: (2024)

A False Sense of Privacy: Evaluating Textual Data Sanitization Beyond Surface-level Privacy Leakage
von: Xin, Rui, et al.
Veröffentlicht: (2025)

Differentially Private Learning Needs Better Model Initialization and Self-Distillation
von: Ngong, Ivoline C., et al.
Veröffentlicht: (2024)

Synthetic Query Generation for Privacy-Preserving Deep Retrieval Systems using Differentially Private Language Models
von: Carranza, Aldo Gael, et al.
Veröffentlicht: (2023)

The Ripple Effect: On Unforeseen Complications of Backdoor Attacks
von: Zhang, Rui, et al.
Veröffentlicht: (2025)

PrivacyRestore: Privacy-Preserving Inference in Large Language Models via Privacy Removal and Restoration
von: Zeng, Ziqian, et al.
Veröffentlicht: (2024)

Cascading Adversarial Bias from Injection to Distillation in Language Models
von: Chaudhari, Harsh, et al.
Veröffentlicht: (2025)

Understanding the Relationship Between Personal Data Privacy Literacy and Data Privacy Information Sharing by University Students
von: Lund, Brady D., et al.
Veröffentlicht: (2025)

Privacy-Preserving Federated Unlearning with Certified Client Removal
von: Liu, Ziyao, et al.
Veröffentlicht: (2024)

Scaling Laws for Differentially Private Language Models
von: McKenna, Ryan, et al.
Veröffentlicht: (2025)

Efficient Privacy-Preserving Cross-Silo Federated Learning with Multi-Key Homomorphic Encryption
von: Omar, Abdullah Al, et al.
Veröffentlicht: (2025)

Privacy-preserving Prompt Personalization in Federated Learning for Multimodal Large Language Models
von: Hou, Sizai, et al.
Veröffentlicht: (2025)

Adding web pentesting functionality to PTHelper
von: Olivares-Naya, María, et al.
Veröffentlicht: (2024)

Correlated Noise Provably Beats Independent Noise for Differentially Private Learning
von: Choquette-Choo, Christopher A., et al.
Veröffentlicht: (2023)

Privacy-Preserving In-Context Learning with Differentially Private Few-Shot Generation
von: Tang, Xinyu, et al.
Veröffentlicht: (2023)

When Are LLM Inferences Acceptable? User Reactions and Control Preferences for Inferred Personal Information
von: Monteiro, Kyzyl, et al.
Veröffentlicht: (2026)