Buchumschlag

Automated Framework to Evaluate and Harden LLM System Instructions against Encoding Attacks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Sahu, Anubhab, Samanta, Diptisha, Soosahabi, Reza
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Evaluating Answer Leakage Robustness of LLM Tutors against Adversarial Student Attacks
von: Zhao, Jin, et al.
Veröffentlicht: (2026)

DeepNcode: Encoding-Based Protection against Bit-Flip Attacks on Neural Networks
von: Velčický, Patrik, et al.
Veröffentlicht: (2024)

DECEIVE-AFC: Adversarial Claim Attacks against Search-Enabled LLM-based Fact-Checking Systems
von: Ou, Haoran, et al.
Veröffentlicht: (2026)

AutoBackdoor: Automating Backdoor Attacks via LLM Agents
von: Li, Yige, et al.
Veröffentlicht: (2025)

A Critical Evaluation of Defenses against Prompt Injection Attacks
von: Jia, Yuqi, et al.
Veröffentlicht: (2025)

RvB: Automating AI System Hardening via Iterative Red-Blue Games
von: Huang, Lige, et al.
Veröffentlicht: (2026)

Can We Trust Embodied Agents? Exploring Backdoor Attacks against Embodied LLM-based Decision-Making Systems
von: Jiao, Ruochen, et al.
Veröffentlicht: (2024)

UNSEEN: A Cross-Stack LLM Unlearning Defense against AR-LLM Social Engineering Attacks
von: Yu, Tianlong, et al.
Veröffentlicht: (2026)

Neural Honeytrace: Plug&Play Watermarking Framework against Model Extraction Attacks
von: Xu, Yixiao, et al.
Veröffentlicht: (2025)

SOFT: Selective Data Obfuscation for Protecting LLM Fine-tuning against Membership Inference Attacks
von: Zhang, Kaiyuan, et al.
Veröffentlicht: (2025)

Cascade: Composing Software-Hardware Attack Gadgets for Adversarial Threat Amplification in Compound AI Systems
von: Banerjee, Sarbartha, et al.
Veröffentlicht: (2026)

CheatAgent: Attacking LLM-Empowered Recommender Systems via LLM Agent
von: Ning, Liang-bo, et al.
Veröffentlicht: (2025)

COGNITION: From Evaluation to Defense against Multimodal LLM CAPTCHA Solvers
von: Wang, Junyu, et al.
Veröffentlicht: (2025)

AutoPentester: An LLM Agent-based Framework for Automated Pentesting
von: Ginige, Yasod, et al.
Veröffentlicht: (2025)

Rethinking Latency Denial-of-Service: Attacking the LLM Serving Framework, Not the Model
von: Wang, Tianyi, et al.
Veröffentlicht: (2026)

Model Tampering Attacks Enable More Rigorous Evaluations of LLM Capabilities
von: Che, Zora, et al.
Veröffentlicht: (2025)

Multi-Stage Prompt Inference Attacks on Enterprise LLM Systems
von: Balashov, Andrii, et al.
Veröffentlicht: (2025)

Model Inversion Attack against Federated Unlearning
von: Zhou, Lei, et al.
Veröffentlicht: (2025)

Jailbreaking Prompt Attack: A Controllable Adversarial Attack against Diffusion Models
von: Ma, Jiachen, et al.
Veröffentlicht: (2024)

KG-DF: A Black-box Defense Framework against Jailbreak Attacks Based on Knowledge Graphs
von: Liu, Shuyuan, et al.
Veröffentlicht: (2025)

Semantic-Aware Advanced Persistent Threat Detection Using Autoencoders on LLM-Encoded System Logs
von: Mohammed, Waleed Khan, et al.
Veröffentlicht: (2026)

Defending against Indirect Prompt Injection by Instruction Detection
von: Wen, Tongyu, et al.
Veröffentlicht: (2025)

E-MIA: Exam-Style Black-Box Membership Inference Attacks against RAG Systems
von: Guan, Zelin, et al.
Veröffentlicht: (2026)

SHIELD: An Auto-Healing Agentic Defense Framework for LLM Resource Exhaustion Attacks
von: Sivaroopan, Nirhoshan, et al.
Veröffentlicht: (2026)

RAG-targeted Adversarial Attack on LLM-based Threat Detection and Mitigation Framework
von: Ikbarieh, Seif, et al.
Veröffentlicht: (2025)

Persona Attack: Incremental Memory Injection Jailbreak Attack against Large Language Models
von: Park, Junyoung, et al.
Veröffentlicht: (2026)

Critical-CoT: A Robust Defense Framework against Reasoning-Level Backdoor Attacks in Large Language Models
von: Truong, Vu Tuan, et al.
Veröffentlicht: (2026)

Optimizing Adaptive Attacks against Watermarks for Language Models
von: Diaa, Abdulrahman, et al.
Veröffentlicht: (2024)

TEAM: Temporal Adversarial Examples Attack Model against Network Intrusion Detection System Applied to RNN
von: Liu, Ziyi, et al.
Veröffentlicht: (2024)

QueryCheetah: Fast Automated Discovery of Attribute Inference Attacks Against Query-Based Systems
von: Stevanoski, Bozhidar, et al.
Veröffentlicht: (2024)

LLM-based Multi-class Attack Analysis and Mitigation Framework in IoT/IIoT Networks
von: Ikbarieh, Seif, et al.
Veröffentlicht: (2025)

How to Train your Antivirus: RL-based Hardening through the Problem-Space
von: Tsingenopoulos, Ilias, et al.
Veröffentlicht: (2024)

SAGE: A Generic Framework for LLM Safety Evaluation
von: Jindal, Madhur, et al.
Veröffentlicht: (2025)

When the Manual Lies: A Realistic Benchmark to Evaluate MCP Poisoning Attacks for LLM Agents
von: Liu, Shi, et al.
Veröffentlicht: (2026)

WeiDetect: Weibull Distribution-Based Defense against Poisoning Attacks in Federated Learning for Network Intrusion Detection Systems
von: M., Sameera K., et al.
Veröffentlicht: (2025)

SoK: Robustness in Large Language Models against Jailbreak Attacks
von: Xu, Feiyue, et al.
Veröffentlicht: (2026)

Semantic-level Backdoor Attack against Text-to-Image Diffusion Models
von: Chen, Tianxin, et al.
Veröffentlicht: (2026)

FedCC: Robust Federated Learning against Model Poisoning Attacks
von: Jeong, Hyejun, et al.
Veröffentlicht: (2022)

Generating Is Believing: Membership Inference Attacks against Retrieval-Augmented Generation
von: Li, Yuying, et al.
Veröffentlicht: (2024)

CUBA: Controlled Untargeted Backdoor Attack against Deep Neural Networks
von: Wu, Yinghao, et al.
Veröffentlicht: (2025)