Buchumschlag

Attention-Guided Reward for Reinforcement Learning-based Jailbreak against Large Reasoning Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Lin, Zheng, Niu, Zhenxing, Ji, Haoxuan, Huang, Yuzhe, Gao, Haichang
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Re-Triggering Safeguards within LLMs for Jailbreak Detection
von: Lin, Zheng, et al.
Veröffentlicht: (2026)

Guaranteed Jailbreaking Defense via Disrupt-and-Rectify Smoothing
von: Lin, Zheng, et al.
Veröffentlicht: (2026)

Efficient LLM-Jailbreaking via Multimodal-LLM Jailbreak
von: Ji, Haoxuan, et al.
Veröffentlicht: (2024)

Towards Aligned Data Removal via Twin Machine Unlearning
von: Ji, Haoxuan, et al.
Veröffentlicht: (2024)

Null Space Constrained Contrastive Visual Forgetting for MLLM Unlearning
von: Wang, Yuhang, et al.
Veröffentlicht: (2026)

Robust MLLM Unlearning via Visual Knowledge Distillation
von: Wang, Yuhang, et al.
Veröffentlicht: (2025)

From Assistant to Double Agent: Formalizing and Benchmarking Attacks on OpenClaw for Personalized Local AI Agent
von: Wang, Yuhang, et al.
Veröffentlicht: (2026)

ICU-Bench:Benchmarking Continual Unlearning in Multimodal Large Language Models
von: Wang, Yuhang, et al.
Veröffentlicht: (2026)

The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models
von: Wu, Zihui, et al.
Veröffentlicht: (2024)

RAJ-PGA: Reasoning-Activated Jailbreak and Principle-Guided Alignment Framework for Large Reasoning Models
von: Chen, Jianhao, et al.
Veröffentlicht: (2025)

CoLD: Counterfactually-Guided Length Debiasing for Process Reward Models in Mathematical Reasoning
von: Zheng, Congmin, et al.
Veröffentlicht: (2025)

A Systematic Security Evaluation of OpenClaw and Its Variants
von: Wang, Yuhang, et al.
Veröffentlicht: (2026)

Imperceptible Jailbreaking against Large Language Models
von: Gao, Kuofeng, et al.
Veröffentlicht: (2025)

New Wide-Net-Casting Jailbreak Attacks Risk Large Models
von: Xiang, Qiuchi, et al.
Veröffentlicht: (2026)

BrainBench: Exposing the Commonsense Reasoning Gap in Large Language Models
von: Tang, Yuzhe
Veröffentlicht: (2026)

GlitchMiner: Mining Glitch Tokens in Large Language Models via Gradient-based Discrete Optimization
von: Wu, Zihui, et al.
Veröffentlicht: (2024)

Multi-Agent Collaborative Reward Design for Enhancing Reasoning in Reinforcement Learning
von: Yang, Pei, et al.
Veröffentlicht: (2025)

SafeBehavior: Simulating Human-Like Multistage Reasoning to Mitigate Jailbreak Attacks in Large Language Models
von: Zhao, Qinjian, et al.
Veröffentlicht: (2025)

ShallowJail: Steering Jailbreaks against Large Language Models
von: Liu, Shang, et al.
Veröffentlicht: (2026)

Cross Modification Attention Based Deliberation Model for Image Captioning
von: Lian, Zheng, et al.
Veröffentlicht: (2021)

EasyJailbreak: A Unified Framework for Jailbreaking Large Language Models
von: Zhou, Weikang, et al.
Veröffentlicht: (2024)

Defending against Jailbreak through Early Exit Generation of Large Language Models
von: Zhao, Chongwen, et al.
Veröffentlicht: (2024)

ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs
von: Jiang, Fengqing, et al.
Veröffentlicht: (2024)

GPTFUZZER: Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts
von: Yu, Jiahao, et al.
Veröffentlicht: (2023)

ReasonGRM: Enhancing Generative Reward Models through Large Reasoning Models
von: Chen, Bin, et al.
Veröffentlicht: (2025)

LLMs can be Dangerous Reasoners: Analyzing-based Jailbreak Attack on Large Language Models
von: Lin, Shi, et al.
Veröffentlicht: (2024)

Learning Reasoning Rewards from Expert Demonstrations with Inverse Reinforcement Learning
von: Fanconi, Claudio, et al.
Veröffentlicht: (2025)

SARL: Label-Free Reinforcement Learning by Rewarding Reasoning Topology
von: Wang, Yifan, et al.
Veröffentlicht: (2026)

Extracting Heuristics from Large Language Models for Reward Shaping in Reinforcement Learning
von: Bhambri, Siddhant, et al.
Veröffentlicht: (2024)

SoK: Robustness in Large Language Models against Jailbreak Attacks
von: Xu, Feiyue, et al.
Veröffentlicht: (2026)

Human-centric Reward Optimization for Reinforcement Learning-based Automated Driving using Large Language Models
von: Zhou, Ziqi, et al.
Veröffentlicht: (2024)

Large Reasoning Models Are Autonomous Jailbreak Agents
von: Hagendorff, Thilo, et al.
Veröffentlicht: (2025)

Revisiting Entropy in Reinforcement Learning for Large Reasoning Models
von: Jin, Renren, et al.
Veröffentlicht: (2025)

Jailbreak-R1: Exploring the Jailbreak Capabilities of LLMs via Reinforcement Learning
von: Guo, Weiyang, et al.
Veröffentlicht: (2025)

Entropy-Guided Data-Efficient Training for Multimodal Reasoning Reward Models
von: Yang, Shidong, et al.
Veröffentlicht: (2026)

When Models Outthink Their Safety: Unveiling and Mitigating Self-Jailbreak in Large Reasoning Models
von: Mao, Yingzhi, et al.
Veröffentlicht: (2025)

A Relative-Budget Theory for Reinforcement Learning with Verifiable Rewards in Large Language Model Reasoning
von: Wachi, Akifumi, et al.
Veröffentlicht: (2026)

Round Trip Translation Defence against Large Language Model Jailbreaking Attacks
von: Yung, Canaan, et al.
Veröffentlicht: (2024)

OThink-SRR1: Search, Refine and Reasoning with Reinforced Learning for Large Language Models
von: Liang, Haijian, et al.
Veröffentlicht: (2026)

Thinking-Based Non-Thinking: Solving the Reward Hacking Problem in Training Hybrid Reasoning Models via Reinforcement Learning
von: Gan, Siyuan, et al.
Veröffentlicht: (2026)