Buchumschlag

Where Do LLM-based Systems Break? A System-Level Security Framework for Risk Assessment and Treatment

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Nagaraja, Neha, Bahsi, Hayretdin
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Goal-Driven Risk Assessment for LLM-Powered Systems: A Healthcare Case Study
von: Nagaraja, Neha, et al.
Veröffentlicht: (2026)

From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
von: Nagaraja, Neha, et al.
Veröffentlicht: (2026)

Enhancing Security in LLM Applications: A Performance Evaluation of Early Detection Systems
von: Gakh, Valerii, et al.
Veröffentlicht: (2025)

To Protect the LLM Agent Against the Prompt Injection Attack with Polymorphic Prompt
von: Wang, Zhilong, et al.
Veröffentlicht: (2025)

Harnessing Large Language Models for Software Vulnerability Detection: A Comprehensive Benchmarking Study
von: Tamberg, Karl, et al.
Veröffentlicht: (2024)

Enhancing Continual Learning for Software Vulnerability Prediction: Addressing Catastrophic Forgetting via Hybrid-Confidence-Aware Selective Replay for Temporal LLM Fine-Tuning
von: Dou, Xuhui, et al.
Veröffentlicht: (2026)

Using Large Language Models for Template Detection from Security Event Logs
von: Vaarandi, Risto, et al.
Veröffentlicht: (2024)

From Incomplete Architecture to Quantified Risk: Multimodal LLM-Driven Security Assessment for Cyber-Physical Systems
von: Huang, Shaofei, et al.
Veröffentlicht: (2026)

Evaluating explainable AI for deep learning-based network intrusion detection system alert classification
von: Kalakoti, Rajesh, et al.
Veröffentlicht: (2025)

Incremental Federated Learning for Intrusion Detection in IoT Networks under Evolving Threat Landscape
von: Rehman, Muaan Ur, et al.
Veröffentlicht: (2026)

A Systematic Literature Review of Cyber Security Monitoring in Maritime
von: Vaarandi, Risto, et al.
Veröffentlicht: (2025)

A New Era in LLM Security: Exploring Security Concerns in Real-World LLM-based Systems
von: Wu, Fangzhou, et al.
Veröffentlicht: (2024)

Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal
von: Pankajakshan, Rahul, et al.
Veröffentlicht: (2024)

LAsset: An LLM-assisted Security Asset Identification Framework for System-on-Chip (SoC) Verification
von: Hasan, Md Ajoad, et al.
Veröffentlicht: (2026)

Securing RAG: A Risk Assessment and Mitigation Framework
von: Ammann, Lukas, et al.
Veröffentlicht: (2025)

Joint Optimization of Prompt Security and System Performance in Edge-Cloud LLM Systems
von: Huang, Haiyang, et al.
Veröffentlicht: (2025)

Agent Audit: A Security Analysis System for LLM Agent Applications
von: Zhang, Haiyue, et al.
Veröffentlicht: (2026)

Breaking the Code: Security Assessment of AI Code Agents Through Systematic Jailbreaking Attacks
von: Saha, Shoumik, et al.
Veröffentlicht: (2025)

A Framework for Formalizing LLM Agent Security
von: Siu, Vincent, et al.
Veröffentlicht: (2026)

What Breaks Embodied AI Security:LLM Vulnerabilities, CPS Flaws,or Something Else?
von: Ma, Boyang, et al.
Veröffentlicht: (2026)

On the Security Risks of ML-based Malware Detection Systems: A Survey
von: He, Ping, et al.
Veröffentlicht: (2025)

WebWeaver: Breaking Topology Confidentiality in LLM Multi-Agent Systems with Stealthy Context-Based Inference
von: Xiong, Zixun, et al.
Veröffentlicht: (2026)

Seven Security Challenges That Must be Solved in Cross-domain Multi-agent LLM Systems
von: Ko, Ronny, et al.
Veröffentlicht: (2025)

PyRIT: A Framework for Security Risk Identification and Red Teaming in Generative AI System
von: Munoz, Gary D. Lopez, et al.
Veröffentlicht: (2024)

Securing Agentic AI: Threat Modeling and Risk Analysis for Network Monitoring Agentic AI System
von: Zambare, Pallavi, et al.
Veröffentlicht: (2025)

Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks
von: Xiang, Chong, et al.
Veröffentlicht: (2026)

STRIDE-AI: A Threat Modeling Framework for Generative AI Security Assessment
von: Cyrille, Tsafac Nkombong Regine, et al.
Veröffentlicht: (2026)

Breaking Minds, Breaking Systems: Jailbreaking Large Language Models via Human-like Psychological Manipulation
von: Liu, Zehao, et al.
Veröffentlicht: (2025)

Breaking the Protocol: Security Analysis of the Model Context Protocol Specification and Prompt Injection Vulnerabilities in Tool-Integrated LLM Agents
von: Maloyan, Narek, et al.
Veröffentlicht: (2026)

Bridging AI and Software Security: A Comparative Vulnerability Assessment of LLM Agent Deployment Paradigms
von: Gasmi, Tarek, et al.
Veröffentlicht: (2025)

Image-based Prompt Injection: Hijacking Multimodal LLMs through Visually Embedded Adversarial Instructions
von: Nagaraja, Neha, et al.
Veröffentlicht: (2026)

Security Assessment and Mitigation Strategies for Large Language Models: A Comprehensive Defensive Framework
von: Onitiju, Taiwo, et al.
Veröffentlicht: (2026)

Agent Security is a Systems Problem
von: Christodorescu, Mihai, et al.
Veröffentlicht: (2026)

The System Prompt Is the Attack Surface: How LLM Agent Configuration Shapes Security and Creates Exploitable Vulnerabilities
von: Litvak, Ron
Veröffentlicht: (2026)

The End of Trust: How Agentic AI Breaks Security Assumptions
von: Zafar, Osama, et al.
Veröffentlicht: (2026)

Explainable Machine Learning-Based Security and Privacy Protection Framework for Internet of Medical Things Systems
von: Si-ahmed, Ayoub, et al.
Veröffentlicht: (2024)

Aero-LLM: A Distributed Framework for Secure UAV Communication and Intelligent Decision-Making
von: Dharmalingam, Balakrishnan, et al.
Veröffentlicht: (2025)

Toward a Unified Security Framework for AI Agents: Trust, Risk, and Liability
von: Mo, Jiayun, et al.
Veröffentlicht: (2025)

Automated Framework to Evaluate and Harden LLM System Instructions against Encoding Attacks
von: Sahu, Anubhab, et al.
Veröffentlicht: (2026)

AVISE: Framework for Evaluating the Security of AI Systems
von: Lempinen, Mikko, et al.
Veröffentlicht: (2026)