Buchumschlag

Multi-Stage Prompt Inference Attacks on Enterprise LLM Systems

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Balashov, Andrii, Ponomarova, Olena, Zhai, Xiaohua
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

To Protect the LLM Agent Against the Prompt Injection Attack with Polymorphic Prompt
von: Wang, Zhilong, et al.
Veröffentlicht: (2025)

AMDS: Attack-Aware Multi-Stage Defense System for Network Intrusion Detection with Two-Stage Adaptive Weight Learning
von: Olukola, Oluseyi, et al.
Veröffentlicht: (2026)

A Method for Enhancing the Safety of Large Model Generation Based on Multi-dimensional Attack and Defense
von: Zhai, Keke
Veröffentlicht: (2024)

Optimization-based Prompt Injection Attack to LLM-as-a-Judge
von: Shi, Jiawen, et al.
Veröffentlicht: (2024)

The System Prompt Is the Attack Surface: How LLM Agent Configuration Shapes Security and Creates Exploitable Vulnerabilities
von: Litvak, Ron
Veröffentlicht: (2026)

AttackPilot: Autonomous Inference Attacks Against ML Services With LLM-Based Agents
von: Wu, Yixin, et al.
Veröffentlicht: (2025)

CompressionAttack: Exploiting Prompt Compression as a New Attack Surface in LLM-Powered Agents
von: Liu, Zesen, et al.
Veröffentlicht: (2025)

LUMIA: Linear probing for Unimodal and MultiModal Membership Inference Attacks leveraging internal LLM states
von: Ibanez-Lissen, Luis, et al.
Veröffentlicht: (2024)

Prompt-in-Content Attacks: Exploiting Uploaded Inputs to Hijack LLM Behavior
von: Lian, Zhuotao, et al.
Veröffentlicht: (2025)

Signed-Prompt: A New Approach to Prevent Prompt Injection Attacks Against LLM-Integrated Applications
von: Suo, Xuchen
Veröffentlicht: (2024)

PromptLocate: Localizing Prompt Injection Attacks
von: Jia, Yuqi, et al.
Veröffentlicht: (2025)

PIDP-Attack: Combining Prompt Injection with Database Poisoning Attacks on Retrieval-Augmented Generation Systems
von: Wang, Haozhen, et al.
Veröffentlicht: (2026)

Prompt Infection: LLM-to-LLM Prompt Injection within Multi-Agent Systems
von: Lee, Donghyun, et al.
Veröffentlicht: (2024)

Meta SecAlign: A Secure Foundation LLM Against Prompt Injection Attacks
von: Chen, Sizhe, et al.
Veröffentlicht: (2025)

Has My System Prompt Been Used? Large Language Model Prompt Membership Inference
von: Levin, Roman, et al.
Veröffentlicht: (2025)

Manipulating LLM Web Agents with Indirect Prompt Injection Attack via HTML Accessibility Tree
von: Johnson, Sam, et al.
Veröffentlicht: (2025)

Democratizing ML for Enterprise Security: A Self-Sustained Attack Detection Framework
von: Momeni, Sadegh, et al.
Veröffentlicht: (2025)

CheatAgent: Attacking LLM-Empowered Recommender Systems via LLM Agent
von: Ning, Liang-bo, et al.
Veröffentlicht: (2025)

Involuntary Jailbreak: On Self-Prompting Attacks
von: Guo, Yangyang, et al.
Veröffentlicht: (2025)

Doppelganger Method: Breaking Role Consistency in LLM Agent via Prompt-based Transferable Adversarial Attack
von: Kang, Daewon, et al.
Veröffentlicht: (2025)

Token-Efficient Prompt Injection Attack: Provoking Cessation in LLM Reasoning via Adaptive Token Compression
von: Cui, Yu, et al.
Veröffentlicht: (2025)

SOFT: Selective Data Obfuscation for Protecting LLM Fine-tuning against Membership Inference Attacks
von: Zhang, Kaiyuan, et al.
Veröffentlicht: (2025)

Burn-After-Use for Preventing Data Leakage through a Secure Multi-Tenant Architecture in Enterprise LLM
von: Zhang, Qiang, et al.
Veröffentlicht: (2026)

System Prompt Poisoning: Persistent Attacks on Large Language Models Beyond User Injection
von: Li, Zongze, et al.
Veröffentlicht: (2025)

Joint Optimization of Prompt Security and System Performance in Edge-Cloud LLM Systems
von: Huang, Haiyang, et al.
Veröffentlicht: (2025)

WebWeaver: Breaking Topology Confidentiality in LLM Multi-Agent Systems with Stealthy Context-Based Inference
von: Xiong, Zixun, et al.
Veröffentlicht: (2026)

Bidirectional Intention Inference Enhances LLMs' Defense Against Multi-Turn Jailbreak Attacks
von: Tong, Haibo, et al.
Veröffentlicht: (2025)

Jailbreaking Prompt Attack: A Controllable Adversarial Attack against Diffusion Models
von: Ma, Jiachen, et al.
Veröffentlicht: (2024)

Operationalizing CaMeL: Strengthening LLM Defenses for Enterprise Deployment
von: Tallam, Krti, et al.
Veröffentlicht: (2025)

Overcoming the Retrieval Barrier: Indirect Prompt Injection in the Wild for LLM Systems
von: Chang, Hongyan, et al.
Veröffentlicht: (2026)

SkillTrojan: Backdoor Attacks on Skill-Based Agent Systems
von: Feng, Yunhao, et al.
Veröffentlicht: (2026)

Amplified Vulnerabilities: Structured Jailbreak Attacks on LLM-based Multi-Agent Debate
von: Qi, Senmao, et al.
Veröffentlicht: (2025)

Prompt and Circumstances: Evaluating the Efficacy of Human Prompt Inference in AI-Generated Art
von: Trinh, Khoi, et al.
Veröffentlicht: (2026)

SafeGPT: Preventing Data Leakage and Unethical Outputs in Enterprise LLM Use
von: Desai, Pratyush, et al.
Veröffentlicht: (2026)

Securing AI Agents Against Prompt Injection Attacks
von: Ramakrishnan, Badrinath, et al.
Veröffentlicht: (2025)

Enhancing Jailbreak Attacks on LLMs via Persona Prompts
von: Zhang, Zheng, et al.
Veröffentlicht: (2025)

Analysis of LLMs Against Prompt Injection and Jailbreak Attacks
von: Jaiswal, Piyush, et al.
Veröffentlicht: (2026)

Defenses Against Prompt Attacks Learn Surface Heuristics
von: Li, Shawn, et al.
Veröffentlicht: (2026)

Efficient but Vulnerable: Benchmarking and Defending LLM Batch Prompting Attack
von: Yue, Murong, et al.
Veröffentlicht: (2025)

Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks
von: Xiang, Chong, et al.
Veröffentlicht: (2026)