Buchumschlag

Unveiling Privacy Risks in LLM Agent Memory

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wang, Bo, He, Weiyi, Zeng, Shenglai, Xiang, Zhen, Xing, Yue, Tang, Jiliang, He, Pengfei
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

The Good and The Bad: Exploring Privacy Issues in Retrieval-Augmented Generation (RAG)
von: Zeng, Shenglai, et al.
Veröffentlicht: (2024)

Multi-Faceted Studies on Data Poisoning can Advance LLM Development
von: He, Pengfei, et al.
Veröffentlicht: (2025)

Mitigating the Privacy Issues in Retrieval-Augmented Generation (RAG) via Pure Synthetic Data
von: Zeng, Shenglai, et al.
Veröffentlicht: (2024)

Stealthy Backdoor Attack via Confidence-driven Sampling
von: He, Pengfei, et al.
Veröffentlicht: (2023)

Privacy in Action: Towards Realistic Privacy Mitigation and Evaluation for LLM-Powered Agents
von: Wang, Shouju, et al.
Veröffentlicht: (2025)

Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference
von: Luo, Zhifan, et al.
Veröffentlicht: (2025)

Contextualized Privacy Defense for LLM Agents
von: Wen, Yule, et al.
Veröffentlicht: (2026)

Searching for Privacy Risks in LLM Agents via Simulation
von: Zhang, Yanzhe, et al.
Veröffentlicht: (2025)

LLM-PBE: Assessing Data Privacy in Large Language Models
von: Li, Qinbin, et al.
Veröffentlicht: (2024)

PrivacyXray: Detecting Privacy Breaches in LLMs through Semantic Consistency and Probability Certainty
von: He, Jinwen, et al.
Veröffentlicht: (2025)

MemoryGraft: Persistent Compromise of LLM Agents via Poisoned Experience Retrieval
von: Srivastava, Saksham Sahai, et al.
Veröffentlicht: (2025)

SuperLocalMemory: Privacy-Preserving Multi-Agent Memory with Bayesian Trust Defense Against Memory Poisoning
von: Bhardwaj, Varun Pratap
Veröffentlicht: (2026)

Reasoning-Style Poisoning of LLM Agents via Stealthy Style Transfer: Process-Level Attacks and Runtime Monitoring in RSV Space
von: Zhou, Xingfu, et al.
Veröffentlicht: (2025)

To trust or not to trust: Attention-based Trust Management for LLM Multi-Agent Systems
von: He, Pengfei, et al.
Veröffentlicht: (2025)

GEO-Detective: Unveiling Location Privacy Risks in Images with LLM Agents
von: Zhang, Xinyu, et al.
Veröffentlicht: (2025)

RTBAS: Defending LLM Agents Against Prompt Injection and Privacy Leakage
von: Zhong, Peter Yong, et al.
Veröffentlicht: (2025)

A Framework for Formalizing LLM Agent Security
von: Siu, Vincent, et al.
Veröffentlicht: (2026)

Unveiling and Mitigating Memorization in Text-to-image Diffusion Models through Cross Attention
von: Ren, Jie, et al.
Veröffentlicht: (2024)

Smart Privacy Policy Assistant: An LLM-Powered System for Transparent and Actionable Privacy Notices
von: Kalvakuntla, Sriharshini, et al.
Veröffentlicht: (2026)

PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say
von: Zhang, Mingxuan, et al.
Veröffentlicht: (2026)

RecPS: Privacy Risk Scoring for Recommender Systems
von: He, Jiajie, et al.
Veröffentlicht: (2025)

MemLineage: Lineage-Guided Enforcement for LLM Agent Memory
von: Ouyang, Ciyan, et al.
Veröffentlicht: (2026)

Targeted Bit-Flip Attacks on LLM-Based Agents
von: Wang, Jialai, et al.
Veröffentlicht: (2026)

AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management
von: Wen, Ruoyao, et al.
Veröffentlicht: (2026)

A-MemGuard: A Proactive Defense Framework for LLM-Based Agent Memory
von: Wei, Qianshan, et al.
Veröffentlicht: (2025)

Agent Audit: A Security Analysis System for LLM Agent Applications
von: Zhang, Haiyue, et al.
Veröffentlicht: (2026)

Preventing Non-intrusive Load Monitoring Privacy Invasion: A Precise Adversarial Attack Scheme for Networked Smart Meters
von: He, Jialing, et al.
Veröffentlicht: (2024)

Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections
von: Yang, Xianglin, et al.
Veröffentlicht: (2026)

LiaisonAgent: An Multi-Agent Framework for Autonomous Risk Investigation and Governance
von: Tang, Chuanming, et al.
Veröffentlicht: (2026)

ADAM: A Systematic Data Extraction Attack on Agent Memory via Adaptive Querying
von: Lyu, Xingyu, et al.
Veröffentlicht: (2026)

Depth Gives a False Sense of Privacy: LLM Internal States Inversion
von: Dong, Tian, et al.
Veröffentlicht: (2025)

Keeping an Eye on LLM Unlearning: The Hidden Risk and Remedy
von: Ren, Jie, et al.
Veröffentlicht: (2025)

PRSI: Privacy-Preserving Recommendation Model Based on Vector Splitting and Interactive Protocols
von: Cao, Xiaokai, et al.
Veröffentlicht: (2024)

VulnLLM-R: Specialized Reasoning LLM with Agent Scaffold for Vulnerability Detection
von: Nie, Yuzhou, et al.
Veröffentlicht: (2025)

Mobile GUI Agent Privacy Personalization with Trajectory Induced Preference Optimization
von: Lin, Zhixin, et al.
Veröffentlicht: (2026)

PrivacyRestore: Privacy-Preserving Inference in Large Language Models via Privacy Removal and Restoration
von: Zeng, Ziqian, et al.
Veröffentlicht: (2024)

LLM Access Shield: Domain-Specific LLM Framework for Privacy Policy Compliance
von: Wang, Yu, et al.
Veröffentlicht: (2025)

A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly
von: Yao, Yifan, et al.
Veröffentlicht: (2023)

LeakAgent: RL-based Red-teaming Agent for LLM Privacy Leakage
von: Nie, Yuzhou, et al.
Veröffentlicht: (2024)

MetaBreak: Jailbreaking Online LLM Services via Special Token Manipulation
von: Zhu, Wentian, et al.
Veröffentlicht: (2025)