Buchumschlag

When Grammar Guides the Attack: Uncovering Control-Plane Vulnerabilities in LLMs with Structured Output

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Shuoming, Zhao, Jiacheng, Dong, Hanyuan, Xu, Ruiyuan, Li, Zhicheng, Zhang, Yangyu, Li, Shuaijiang, Wen, Yuan, Xia, Chunwei, Wang, Zheng, Feng, Xiaobing, Cui, Huimin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

When LLMs Copy to Think: Uncovering Copy-Guided Attacks in Reasoning LLMs
von: Li, Yue, et al.
Veröffentlicht: (2025)

Learning When to Optimize: Verified Optimization Skills from Expert GPU-Kernel Lineages
von: Zhang, Shuoming, et al.
Veröffentlicht: (2026)

The New Compiler Stack: A Survey on the Synergy of LLMs and Compilers
von: Zhang, Shuoming, et al.
Veröffentlicht: (2026)

LEGO-Compiler: Enhancing Neural Compilation Through Translation Composability
von: Zhang, Shuoming, et al.
Veröffentlicht: (2025)

Uncovering Privacy Vulnerabilities through Analytical Gradient Inversion Attacks
von: Eltaras, Tamer Ahmed, et al.
Veröffentlicht: (2025)

Learning to Attack: Uncovering Privacy Risks in Sequential Data Releases
von: Cui, Ziyao, et al.
Veröffentlicht: (2025)

Uncover the Premeditated Attacks: Detecting Exploitable Reentrancy Vulnerabilities by Identifying Attacker Contracts
von: Yang, Shuo, et al.
Veröffentlicht: (2024)

When Safe Models Merge into Danger: Exploiting Latent Vulnerabilities in LLM Fusion
von: Li, Jiaqing, et al.
Veröffentlicht: (2026)

An Empirical Study on the Distance Metric in Guiding Directed Grey-box Fuzzing
von: Wen, Tingke, et al.
Veröffentlicht: (2024)

Instruction Backdoor Attacks Against Customized LLMs
von: Zhang, Rui, et al.
Veröffentlicht: (2024)

PrintListener: Uncovering the Vulnerability of Fingerprint Authentication via the Finger Friction Sound
von: Zhou, Man, et al.
Veröffentlicht: (2024)

Towards Compositional Generalization in LLMs for Smart Contract Security: A Case Study on Reentrancy Vulnerabilities
von: Zhou, Ying, et al.
Veröffentlicht: (2026)

Who Moved My Transaction? Uncovering Post-Transaction Auditability Vulnerabilities in Modern Super Apps
von: Liu, Junlin, et al.
Veröffentlicht: (2025)

Exposing Vulnerabilities in RL: A Novel Stealthy Backdoor Attack through Reward Poisoning
von: Zhang, Bokang, et al.
Veröffentlicht: (2025)

Data Lineage Inference: Uncovering Privacy Vulnerabilities of Dataset Pruning
von: Li, Qi, et al.
Veröffentlicht: (2024)

Guiding not Forcing: Enhancing the Transferability of Jailbreaking Attacks on LLMs via Removing Superfluous Constraints
von: Yang, Junxiao, et al.
Veröffentlicht: (2025)

Uncovering Logit Suppression Vulnerabilities in LLM Safety Alignment
von: Li, Yuxi, et al.
Veröffentlicht: (2024)

HauntAttack: When Attack Follows Reasoning as a Shadow
von: Ma, Jingyuan, et al.
Veröffentlicht: (2025)

When Memory Becomes a Vulnerability: Towards Multi-turn Jailbreak Attacks against Text-to-Image Generation Systems
von: Zhao, Shiqian, et al.
Veröffentlicht: (2025)

Exploiting Prefix-Tree in Structured Output Interfaces for Enhancing Jailbreak Attacking
von: Li, Yanzeng, et al.
Veröffentlicht: (2025)

When Efficiency Backfires: Cascading LLMs Trigger Cascade Failure under Adversarial Attack
von: Sun, Zehan, et al.
Veröffentlicht: (2026)

LLMs in Software Security: A Survey of Vulnerability Detection Techniques and Insights
von: Sheng, Ze, et al.
Veröffentlicht: (2025)

MalURLBench: A Benchmark Evaluating Agents' Vulnerabilities When Processing Web URLs
von: Kong, Dezhang, et al.
Veröffentlicht: (2026)

RLCracker: Evaluating the Worst-Case Vulnerability of LLM Watermarks with Adaptive RL Attacks
von: Huang, Hanbo, et al.
Veröffentlicht: (2025)

Persistent Backdoor Attacks under Continual Fine-Tuning of LLMs
von: Cui, Jing, et al.
Veröffentlicht: (2025)

Excessive Reasoning Attack on Reasoning LLMs
von: Si, Wai Man, et al.
Veröffentlicht: (2025)

ACFIX: Guiding LLMs with Mined Common RBAC Practices for Context-Aware Repair of Access Control Vulnerabilities in Smart Contracts
von: Zhang, Lyuye, et al.
Veröffentlicht: (2024)

Uncovering and Aligning Anomalous Attention Heads to Defend Against NLP Backdoor Attacks
von: Jin, Haotian, et al.
Veröffentlicht: (2025)

JNI Global References Are Still Vulnerable: Attacks and Defenses
von: He, Yi, et al.
Veröffentlicht: (2024)

If LLMs Would Just Look: Simple Line-by-line Checking Improves Vulnerability Localization
von: Li, Yue, et al.
Veröffentlicht: (2024)

FuzzySQL: Uncovering Hidden Vulnerabilities in DBMS Special Features with LLM-Driven Fuzzing
von: Chen, Yongxin, et al.
Veröffentlicht: (2026)

Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity
von: An, Hongjun, et al.
Veröffentlicht: (2026)

CoDe-R: Refining Decompiler Output with LLMs via Rationale Guidance and Adaptive Inference
von: Zhang, Qiang, et al.
Veröffentlicht: (2026)

MIST: Defending Against Membership Inference Attacks Through Membership-Invariant Subspace Training
von: Li, Jiacheng, et al.
Veröffentlicht: (2023)

Guiding Symbolic Execution with Static Analysis and LLMs for Vulnerability Discovery
von: Shafiuzzaman, Md, et al.
Veröffentlicht: (2026)

Uncovering Attacks and Defenses in Secure Aggregation for Federated Deep Learning
von: Zhang, Yiwei, et al.
Veröffentlicht: (2024)

The Trust Paradox in LLM-Based Multi-Agent Systems: When Collaboration Becomes a Security Vulnerability
von: Xu, Zijie, et al.
Veröffentlicht: (2025)

GateBreaker: Gate-Guided Attacks on Mixture-of-Expert LLMs
von: Wu, Lichao, et al.
Veröffentlicht: (2025)

Spa-VLM: Stealthy Poisoning Attacks on RAG-based VLM
von: Yu, Lei, et al.
Veröffentlicht: (2025)

VortexPIA: Indirect Prompt Injection Attack against LLMs for Efficient Extraction of User Privacy
von: Cui, Yu, et al.
Veröffentlicht: (2025)