Buchumschlag

Analyzing the Inherent Response Tendency of LLMs: Real-World Instructions-Driven Jailbreak

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Du, Yanrui, Zhao, Sendong, Ma, Ming, Chen, Yuhan, Qin, Bing
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

From Artificially Real to Real: Leveraging Pseudo Data from Large Language Models for Low-Resource Molecule Discovery
von: Chen, Yuhan, et al.
Veröffentlicht: (2023)

MoGU: A Framework for Enhancing Safety of Open-Sourced LLMs While Preserving Their Usability
von: Du, Yanrui, et al.
Veröffentlicht: (2024)

Don't Ignore Dual Logic Ability of LLMs while Privatizing: A Data-Intensive Analysis in Medical Domain
von: Du, Yanrui, et al.
Veröffentlicht: (2023)

Toward Secure Tuning: Mitigating Security Risks from Instruction Fine-Tuning
von: Du, Yanrui, et al.
Veröffentlicht: (2024)

MolTailor: Tailoring Chemical Molecular Representation to Specific Tasks via Text Prompts
von: Guo, Haoqiang, et al.
Veröffentlicht: (2024)

MoGU V2: Toward a Higher Pareto Frontier Between Model Usability and Security
von: Du, Yanrui, et al.
Veröffentlicht: (2025)

From Latent Signals to Reflection Behavior: Tracing Meta-Cognitive Activation Trajectory in R1-Style LLMs
von: Du, Yanrui, et al.
Veröffentlicht: (2026)

S3-CoT: Self-Sampled Succinct Reasoning Enables Efficient Chain-of-Thought LLMs
von: Du, Yanrui, et al.
Veröffentlicht: (2026)

Knowledge-tuning Large Language Models with Structured Medical Knowledge Bases for Reliable Response Generation in Chinese
von: Wang, Haochun, et al.
Veröffentlicht: (2023)

AS-ES Learning: Towards Efficient CoT Learning in Small Models
von: Xi, Nuwa, et al.
Veröffentlicht: (2024)

Anchoring Refusal Direction: Mitigating Safety Risks in Tuning via Projection Constraint
von: Du, Yanrui, et al.
Veröffentlicht: (2025)

AdaSteer: Your Aligned LLM is Inherently an Adaptive Jailbreak Defender
von: Zhao, Weixiang, et al.
Veröffentlicht: (2025)

LLMs May Perform MCQA by Selecting the Least Incorrect Option
von: Wang, Haochun, et al.
Veröffentlicht: (2024)

META-RAG: Meta-Analysis-Inspired Evidence-Re-Ranking Method for Retrieval-Augmented Generation in Evidence-Based Medicine
von: Sun, Mengzhou, et al.
Veröffentlicht: (2025)

Tricking LLMs into Disobedience: Formalizing, Analyzing, and Detecting Jailbreaks
von: Rao, Abhinav, et al.
Veröffentlicht: (2023)

PICOs-RAG: PICO-supported Query Rewriting for Retrieval-Augmented Generation in Evidence-Based Medicine
von: Sun, Mengzhou, et al.
Veröffentlicht: (2025)

Uncovering the Role of Initial Saliency in U-Shaped Attention Bias: Scaling Initial Token Weight for Enhanced Long-Text Processing
von: Qiang, Zewen, et al.
Veröffentlicht: (2025)

When Correct Beliefs Collapse: Epistemic Resilience of LLMs under Clinical Pressure
von: Xiao, Boyu, et al.
Veröffentlicht: (2026)

Steerability of Instrumental-Convergence Tendencies in LLMs
von: Hoscilowicz, Jakub
Veröffentlicht: (2026)

The Inherent Limits of Pretrained LLMs: The Unexpected Convergence of Instruction Tuning and In-Context Learning Capabilities
von: Bigoulaeva, Irina, et al.
Veröffentlicht: (2025)

M-Eval: A Heterogeneity-Based Framework for Multi-evidence Validation in Medical RAG Systems
von: Sun, Mengzhou, et al.
Veröffentlicht: (2025)

Beyond Direct Diagnosis: LLM-based Multi-Specialist Agent Consultation for Automatic Diagnosis
von: Wang, Haochun, et al.
Veröffentlicht: (2024)

ArcAligner: Adaptive Recursive Aligner for Compressed Context Embeddings in RAG
von: Li, Jianbo, et al.
Veröffentlicht: (2026)

RealMem: Benchmarking LLMs in Real-World Memory-Driven Interaction
von: Bian, Haonan, et al.
Veröffentlicht: (2026)

A Survey on Responsible LLMs: Inherent Risk, Malicious Use, and Mitigation Strategy
von: Wang, Huandong, et al.
Veröffentlicht: (2025)

XFacta: Contemporary, Real-World Dataset and Evaluation for Multimodal Misinformation Detection with Multimodal LLMs
von: Xiao, Yuzhuo, et al.
Veröffentlicht: (2025)

Manifold-based Verbalizer Space Re-embedding for Tuning-free Prompt-based Classification
von: Wang, Haochun, et al.
Veröffentlicht: (2023)

CoCoA: Collaborative Chain-of-Agents for Parametric-Retrieved Knowledge Synergy
von: Jiang, Yi, et al.
Veröffentlicht: (2025)

Analyzing LLM Instruction Optimization for Tabular Fact Verification
von: Du, Xiaotang, et al.
Veröffentlicht: (2026)

Easier to Judge than to Find: Predicting In-Context Learning Success for Demonstration Selection
von: Wang, Haochun, et al.
Veröffentlicht: (2026)

Jailbreak Instruction-Tuned LLMs via end-of-sentence MLP Re-weighting
von: Luo, Yifan, et al.
Veröffentlicht: (2024)

HypoTermQA: Hypothetical Terms Dataset for Benchmarking Hallucination Tendency of LLMs
von: Uluoglakci, Cem, et al.
Veröffentlicht: (2024)

Making LLMs Better Many-to-Many Speech-to-Text Translators with Curriculum Learning
von: Du, Yexing, et al.
Veröffentlicht: (2024)

COLD-Attack: Jailbreaking LLMs with Stealthiness and Controllability
von: Guo, Xingang, et al.
Veröffentlicht: (2024)

Simulating Before Planning: Constructing Intrinsic User World Model for User-Tailored Dialogue Policy Planning
von: He, Tao, et al.
Veröffentlicht: (2025)

An Audit and Analysis of LLM-Assisted Health Misinformation Jailbreaks Against LLMs
von: Hussain, Ayana, et al.
Veröffentlicht: (2025)

AttnGCG: Enhancing Jailbreaking Attacks on LLMs with Attention Manipulation
von: Wang, Zijun, et al.
Veröffentlicht: (2024)

BiasJailbreak:Analyzing Ethical Biases and Jailbreak Vulnerabilities in Large Language Models
von: Lee, Isack, et al.
Veröffentlicht: (2024)

Evolve the Method, Not the Prompts: Evolutionary Synthesis of Jailbreak Attacks on LLMs
von: Chen, Yunhao, et al.
Veröffentlicht: (2025)

How Real is Your Jailbreak? Fine-grained Jailbreak Evaluation with Anchored Reference
von: Liu, Songyang, et al.
Veröffentlicht: (2026)