Buchumschlag

T2I-RiskyPrompt: A Benchmark for Safety Evaluation, Attack, and Defense on Text-to-Image Model

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Chenyu, Zhang, Tairen, Wang, Lanjun, Chen, Ruidong, Li, Wenhui, Liu, Anan
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Cryptography and Security Artificial Intelligence Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Adversarial Attacks and Defenses on Text-to-Image Diffusion Models: A Survey
von: Zhang, Chenyu, et al.
Veröffentlicht: (2024)

Reason2Attack: Jailbreaking Text-to-Image Models via LLM Reasoning
von: Zhang, Chenyu, et al.
Veröffentlicht: (2025)

Metaphor-based Jailbreak Attacks on Text-to-Image Models
von: Zhang, Chenyu, et al.
Veröffentlicht: (2025)

What Concepts Lie Within? Detecting and Suppressing Risky Content in Diffusion Transformers
von: Zhang, Chenyu
Veröffentlicht: (2026)

A Survey of Safety on Large Vision-Language Models: Attacks, Defenses and Evaluations
von: Ye, Mang, et al.
Veröffentlicht: (2025)

Stego Battlefield: Evaluating Image Steganography Attacks and Steganalysis Defenses
von: Sun, Zhen, et al.
Veröffentlicht: (2026)

MIBench: A Comprehensive Framework for Benchmarking Model Inversion Attack and Defense
von: Qiu, Yixiang, et al.
Veröffentlicht: (2024)

SurrogatePrompt: Bypassing the Safety Filter of Text-to-Image Models via Substitution
von: Ba, Zhongjie, et al.
Veröffentlicht: (2023)

One Prompt to Verify Your Models: Black-Box Text-to-Image Models Verification via Non-Transferable Adversarial Attacks
von: Guo, Ji, et al.
Veröffentlicht: (2024)

The VLLM Safety Paradox: Dual Ease in Jailbreak Attack and Defense
von: Guo, Yangyang, et al.
Veröffentlicht: (2024)

OmniSafeBench-MM: A Unified Benchmark and Toolbox for Multimodal Jailbreak Attack-Defense Evaluation
von: Jia, Xiaojun, et al.
Veröffentlicht: (2025)

TwoHamsters: Benchmarking Multi-Concept Compositional Unsafety in Text-to-Image Models
von: Zhang, Chaoshuo, et al.
Veröffentlicht: (2026)

PLA: Prompt Learning Attack against Text-to-Image Generative Models
von: Lyu, Xinqi, et al.
Veröffentlicht: (2025)

Two Frames Matter: A Temporal Attack for Text-to-Video Model Jailbreaking
von: Chen, Moyang, et al.
Veröffentlicht: (2026)

Intriguing Properties of Diffusion Models: An Empirical Study of the Natural Attack Capability in Text-to-Image Generative Models
von: Sato, Takami, et al.
Veröffentlicht: (2023)

Robust Image Classification: Defensive Strategies against FGSM and PGD Adversarial Attacks
von: Waghela, Hetvi, et al.
Veröffentlicht: (2024)

DAVSP: Safety Alignment for Large Vision-Language Models via Deep Aligned Visual Safety Prompt
von: Zhang, Yitong, et al.
Veröffentlicht: (2025)

Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses
von: Li, Xiao, et al.
Veröffentlicht: (2026)

Backdoor Attacks on Prompt-Driven Video Segmentation Foundation Models
von: Zhang, Zongmin, et al.
Veröffentlicht: (2025)

HTS-Attack: Heuristic Token Search for Jailbreaking Text-to-Image Models
von: Gao, Sensen, et al.
Veröffentlicht: (2024)

MMCert: Provable Defense against Adversarial Attacks to Multi-modal Models
von: Wang, Yanting, et al.
Veröffentlicht: (2024)

BadBone: Backdoor Attacks Against Backbone Models in Visual Prompt Learning
von: Yang, Ziqing, et al.
Veröffentlicht: (2026)

Beyond Text Prompts: Precise Concept Erasure through Text-Image Collaboration
von: Li, Jun, et al.
Veröffentlicht: (2026)

Bounding-box Watermarking: Defense against Model Extraction Attacks on Object Detectors
von: Koda, Satoru, et al.
Veröffentlicht: (2024)

Membership Inference Attack Against Masked Image Modeling
von: Li, Zheng, et al.
Veröffentlicht: (2024)

Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor
von: Wei, Shaokui, et al.
Veröffentlicht: (2024)

BadBlocks: Low-Cost and Stealthy Backdoor Attacks Tailored for Text-to-Image Diffusion Models
von: Wu, Jia, et al.
Veröffentlicht: (2025)

A Survey of Trojan Attacks and Defenses to Deep Neural Networks
von: Jin, Lingxin, et al.
Veröffentlicht: (2024)

Image Corruption-Inspired Membership Inference Attacks against Large Vision-Language Models
von: Wu, Zongyu, et al.
Veröffentlicht: (2025)

A Cross-Modal Prompt Injection Attack against Large Vision-Language Models with Image-Only Perturbation
von: Yang, Hao, et al.
Veröffentlicht: (2026)

VidLeaks: Membership Inference Attacks Against Text-to-Video Models
von: Wang, Li, et al.
Veröffentlicht: (2026)

Revealing Vulnerabilities in Stable Diffusion via Targeted Attacks
von: Zhang, Chenyu, et al.
Veröffentlicht: (2024)

Gungnir: Exploiting Stylistic Features in Images for Backdoor Attacks on Diffusion Models
von: Zhang, Lei, et al.
Veröffentlicht: (2025)

Espresso: Robust Concept Filtering in Text-to-Image Models
von: Das, Anudeep, et al.
Veröffentlicht: (2024)

Defensive Unlearning with Adversarial Training for Robust Concept Erasure in Diffusion Models
von: Zhang, Yimeng, et al.
Veröffentlicht: (2024)

When Memory Becomes a Vulnerability: Towards Multi-turn Jailbreak Attacks against Text-to-Image Generation Systems
von: Zhao, Shiqian, et al.
Veröffentlicht: (2025)

UnMarker: A Universal Attack on Defensive Image Watermarking
von: Kassis, Andre, et al.
Veröffentlicht: (2024)

Patronus: Safeguarding Text-to-Image Models against White-Box Adversaries
von: Li, Xinfeng, et al.
Veröffentlicht: (2025)

Survey on Adversarial Attack and Defense for Medical Image Analysis: Methods and Challenges
von: Dong, Junhao, et al.
Veröffentlicht: (2023)

Nearest is Not Dearest: Towards Practical Defense against Quantization-conditioned Backdoor Attacks
von: Li, Boheng, et al.
Veröffentlicht: (2024)