Buchumschlag

Efficient Jailbreaking of Large Models by Freeze Training: Lower Layers Exhibit Greater Sensitivity to Harmful Content

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Shen, Hongyuan, Zheng, Min, Wang, Jincheng, Zhao, Yang
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Cryptography and Security Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Understanding Data Importance in Machine Learning Attacks: Does Valuable Data Pose Greater Harm?
von: Wen, Rui, et al.
Veröffentlicht: (2024)

"Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models
von: Shen, Xinyue, et al.
Veröffentlicht: (2023)

JailbreakBench: An Open Robustness Benchmark for Jailbreaking Large Language Models
von: Chao, Patrick, et al.
Veröffentlicht: (2024)

JULI: Jailbreak Large Language Models by Self-Introspection
von: Wang, Jesson, et al.
Veröffentlicht: (2025)

Systematic Scaling Analysis of Jailbreak Attacks in Large Language Models
von: Wang, Xiangwen, et al.
Veröffentlicht: (2026)

Model-Editing-Based Jailbreak against Safety-aligned Large Language Models
von: Li, Yuxi, et al.
Veröffentlicht: (2024)

Knowledge-Driven Multi-Turn Jailbreaking on Large Language Models
von: Li, Songze, et al.
Veröffentlicht: (2026)

Jailbreaking Large Language Models in Infinitely Many Ways
von: Goldstein, Oliver, et al.
Veröffentlicht: (2025)

DeepInception: Hypnotize Large Language Model to Be Jailbreaker
von: Li, Xuan, et al.
Veröffentlicht: (2023)

Voice Jailbreak Attacks Against GPT-4o
von: Shen, Xinyue, et al.
Veröffentlicht: (2024)

Improved Techniques for Optimization-Based Jailbreaking on Large Language Models
von: Jia, Xiaojun, et al.
Veröffentlicht: (2024)

FlashDP: Private Training Large Language Models with Efficient DP-SGD
von: Wang, Liangyu, et al.
Veröffentlicht: (2025)

TokenProber: Jailbreaking Text-to-image Models via Fine-grained Word Impact Analysis
von: Wang, Longtian, et al.
Veröffentlicht: (2025)

Safety Training Modulates Harmful Misalignment Under On-Policy RL, But Direction Depends on Environment Design
von: Eshuijs, Leon, et al.
Veröffentlicht: (2026)

Digger: Detecting Copyright Content Mis-usage in Large Language Model Training
von: Li, Haodong, et al.
Veröffentlicht: (2024)

TRYLOCK: Defense-in-Depth Against LLM Jailbreaks via Layered Preference and Representation Engineering
von: Thornton, Scott
Veröffentlicht: (2026)

AutoAdv: Automated Adversarial Prompting for Multi-Turn Jailbreaking of Large Language Models
von: Reddy, Aashray, et al.
Veröffentlicht: (2025)

Mitigating Error Amplification in Fast Adversarial Training
von: Zhao, Mengnan, et al.
Veröffentlicht: (2026)

Differentially Private Subspace Fine-Tuning for Large Language Models
von: Zheng, Lele, et al.
Veröffentlicht: (2026)

Jailbreaking and Mitigation of Vulnerabilities in Large Language Models
von: Peng, Benji, et al.
Veröffentlicht: (2024)

Label Privacy in Split Learning for Large Models with Parameter-Efficient Training
von: Zmushko, Philip, et al.
Veröffentlicht: (2024)

Pharmacist: Safety Alignment Data Curation for Large Language Models against Harmful Fine-tuning
von: Liu, Guozhi, et al.
Veröffentlicht: (2025)

Short-length Adversarial Training Helps LLMs Defend Long-length Jailbreak Attacks: Theoretical and Empirical Evidence
von: Fu, Shaopeng, et al.
Veröffentlicht: (2025)

Not All Tokens Are Created Equal: Query-Efficient Jailbreak Fuzzing for LLMs
von: Chen, Wenyu, et al.
Veröffentlicht: (2026)

T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models
von: Liang, Siyuan, et al.
Veröffentlicht: (2025)

Extracting Spatiotemporal Data from Gradients with Large Language Models
von: Zheng, Lele, et al.
Veröffentlicht: (2024)

VERA: Variational Inference Framework for Jailbreaking Large Language Models
von: Lochab, Anamika, et al.
Veröffentlicht: (2025)

Fuzz-Testing Meets LLM-Based Agents: An Automated and Efficient Framework for Jailbreaking Text-To-Image Generation Models
von: Dong, Yingkai, et al.
Veröffentlicht: (2024)

A Fast, Performant, Secure Distributed Training Framework For Large Language Model
von: Huang, Wei, et al.
Veröffentlicht: (2024)

Understanding and Enhancing the Transferability of Jailbreaking Attacks
von: Lin, Runqi, et al.
Veröffentlicht: (2025)

Improved Large Language Model Jailbreak Detection via Pretrained Embeddings
von: Galinkin, Erick, et al.
Veröffentlicht: (2024)

JailbreakRadar: Comprehensive Assessment of Jailbreak Attacks Against LLMs
von: Chu, Junjie, et al.
Veröffentlicht: (2024)

Privacy-Preserving 3-Layer Neural Network Training
von: Chiang, John
Veröffentlicht: (2023)

Sovereign Context Protocol: An Open Attribution Layer for Human-Generated Content in the Age of Large Language Models
von: Panchigar, Praneel, et al.
Veröffentlicht: (2026)

The Surprising Harmfulness of Benign Overfitting for Adversarial Robustness
von: Hao, Yifan, et al.
Veröffentlicht: (2024)

The Challenge of Identifying the Origin of Black-Box Large Language Models
von: Yang, Ziqing, et al.
Veröffentlicht: (2025)

Can Graph Neural Networks Expose Training Data Properties? An Efficient Risk Assessment Approach
von: Yuan, Hanyang, et al.
Veröffentlicht: (2024)

Jailbreak Attack Initializations as Extractors of Compliance Directions
von: Levi, Amit, et al.
Veröffentlicht: (2025)

EnJa: Ensemble Jailbreak on Large Language Models
von: Zhang, Jiahao, et al.
Veröffentlicht: (2024)

Harmful Fine-tuning Attacks and Defenses for Large Language Models: A Survey
von: Huang, Tiansheng, et al.
Veröffentlicht: (2024)