Buchumschlag

ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Jiang, Fengqing, Xu, Zhangchen, Niu, Luyao, Xiang, Zhen, Ramasubramanian, Bhaskar, Li, Bo, Poovendran, Radha
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SafeDecoding: Defending against Jailbreak Attacks via Safety-Aware Decoding
von: Xu, Zhangchen, et al.
Veröffentlicht: (2024)

Magpie: Alignment Data Synthesis from Scratch by Prompting Aligned LLMs with Nothing
von: Xu, Zhangchen, et al.
Veröffentlicht: (2024)

TinyV: Reducing False Negatives in Verification Improves RL for LLM Reasoning
von: Xu, Zhangchen, et al.
Veröffentlicht: (2025)

CleanGen: Mitigating Backdoor Attacks for Generation Tasks in Large Language Models
von: Li, Yuetai, et al.
Veröffentlicht: (2024)

Stronger Models are NOT Stronger Teachers for Instruction Tuning
von: Xu, Zhangchen, et al.
Veröffentlicht: (2024)

ChatBug: A Common Vulnerability of Aligned LLMs Induced by Chat Templates
von: Jiang, Fengqing, et al.
Veröffentlicht: (2024)

Temporal Sampling for Forgotten Reasoning in LLMs
von: Li, Yuetai, et al.
Veröffentlicht: (2025)

SafeChain: Safety of Language Models with Long Chain-of-Thought Reasoning Capabilities
von: Jiang, Fengqing, et al.
Veröffentlicht: (2025)

ACE: A Model Poisoning Attack on Contribution Evaluation Methods in Federated Learning
von: Xu, Zhangchen, et al.
Veröffentlicht: (2024)

Small Models Struggle to Learn from Strong Reasoners
von: Li, Yuetai, et al.
Veröffentlicht: (2025)

VisualSphinx: Large-Scale Synthetic Vision Logic Puzzles for RL
von: Feng, Yichen, et al.
Veröffentlicht: (2025)

SoSBench: Benchmarking Safety Alignment on Six Scientific Domains
von: Jiang, Fengqing, et al.
Veröffentlicht: (2025)

ArtPerception: ASCII Art-based Jailbreak on LLMs with Recognition Pre-test
von: Yang, Guan-Yan, et al.
Veröffentlicht: (2025)

BadChain: Backdoor Chain-of-Thought Prompting for Large Language Models
von: Xiang, Zhen, et al.
Veröffentlicht: (2024)

Brave: Byzantine-Resilient and Privacy-Preserving Peer-to-Peer Federated Learning
von: Xu, Zhangchen, et al.
Veröffentlicht: (2024)

The WidthWall: A Strict Expressivity Hierarchy for Hypergraph Neural Networks
von: Jiang, Fengqing, et al.
Veröffentlicht: (2026)

KodCode: A Diverse, Challenging, and Verifiable Synthetic Dataset for Coding
von: Xu, Zhangchen, et al.
Veröffentlicht: (2025)

Distributed Safety-Critical Control of Multi-Agent Systems with Time-Varying Communication Topologies
von: Cheng, Shiyu, et al.
Veröffentlicht: (2026)

Modeling and Designing Non-Pharmaceutical Interventions in Epidemics: A Submodular Approach
von: Cheng, Shiyu, et al.
Veröffentlicht: (2024)

Swarm-STL: A Framework for Motion Planning in Large-Scale, Multi-Swarm Systems
von: Cheng, Shiyu, et al.
Veröffentlicht: (2025)

Steering Multimodal Large Language Models Decoding for Context-Aware Safety
von: Liu, Zheyuan, et al.
Veröffentlicht: (2025)

BadScientist: Can a Research Agent Write Convincing but Unsound Papers that Fool LLM Reviewers?
von: Jiang, Fengqing, et al.
Veröffentlicht: (2025)

Fault Tolerant Neural Control Barrier Functions for Robotic Systems under Sensor Faults and Attacks
von: Zhang, Hongchao, et al.
Veröffentlicht: (2024)

Game of Trojans: Adaptive Adversaries Against Output-based Trojaned-Model Detectors
von: Sahabandu, Dinuka, et al.
Veröffentlicht: (2024)

Double-Dip: Thwarting Label-Only Membership Inference Attacks with Transfer Learning and Randomization
von: Rajabi, Arezoo, et al.
Veröffentlicht: (2024)

Testing the Depth of ChatGPT's Comprehension via Cross-Modal Tasks Based on ASCII-Art: GPT3.5's Abilities in Regard to Recognizing and Generating ASCII-Art Are Not Totally Lacking
von: Bayani, David
Veröffentlicht: (2023)

Who is Responsible? Explaining Safety Violations in Multi-Agent Cyber-Physical Systems
von: Niu, Luyao, et al.
Veröffentlicht: (2024)

Polyhedral Instability Governs Regret in Online Learning
von: Li, Yuetai, et al.
Veröffentlicht: (2026)

JobBench: Aligning Agent Work With Human Will
von: Li, Yuetai, et al.
Veröffentlicht: (2026)

Defending LLMs against Jailbreaking Attacks via Backtranslation
von: Wang, Yihan, et al.
Veröffentlicht: (2024)

TOUCAN: Synthesizing 1.5M Tool-Agentic Data from Real-World MCP Environments
von: Xu, Zhangchen, et al.
Veröffentlicht: (2025)

Characterizing and Evaluating the Reliability of LLMs against Jailbreak Attacks
von: Chen, Kexin, et al.
Veröffentlicht: (2024)

Soft Begging: Modular and Efficient Shielding of LLMs against Prompt Injection and Jailbreaking based on Prompt Tuning
von: Ostermann, Simon, et al.
Veröffentlicht: (2024)

A Method for Fast Autonomy Transfer in Reinforcement Learning
von: Sahabandu, Dinuka, et al.
Veröffentlicht: (2024)

ASCIIEval: Benchmarking Models' Visual Perception in Text Strings via ASCII Art
von: Jia, Qi, et al.
Veröffentlicht: (2024)

What Features in Prompts Jailbreak LLMs? Investigating the Mechanisms Behind Attacks
von: Kirch, Nathalie, et al.
Veröffentlicht: (2024)

Visual Aesthetic Benchmark: Can Frontier Models Judge Beauty?
von: Feng, Yichen, et al.
Veröffentlicht: (2026)

Bag of Tricks: Benchmarking of Jailbreak Attacks on LLMs
von: Xu, Zhao, et al.
Veröffentlicht: (2024)

AutoDAN: Generating Stealthy Jailbreak Prompts on Aligned Large Language Models
von: Liu, Xiaogeng, et al.
Veröffentlicht: (2023)

Adversarial Tuning: Defending Against Jailbreak Attacks for LLMs
von: Liu, Fan, et al.
Veröffentlicht: (2024)