Buchumschlag

Securing AI Systems: A Guide to Known Attacks and Impacts

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kiribuchi, Naoto, Zenitani, Kengo, Semitsu, Takayuki
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Automated Analysis of Global AI Safety Initiatives: A Taxonomy-Driven LLM Approach
von: Semitsu, Takayuki, et al.
Veröffentlicht: (2026)

Securing AI Agents Against Prompt Injection Attacks
von: Ramakrishnan, Badrinath, et al.
Veröffentlicht: (2025)

AI Security Map: Holistic Organization of AI Security Technologies and Impacts on Stakeholders
von: Kato, Hiroya, et al.
Veröffentlicht: (2025)

Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks
von: Xiang, Chong, et al.
Veröffentlicht: (2026)

Breaking the Code: Security Assessment of AI Code Agents Through Systematic Jailbreaking Attacks
von: Saha, Shoumik, et al.
Veröffentlicht: (2025)

SPEAR: Security Posture Evaluation using AI Planner-Reasoning on Attack-Connectivity Hypergraphs
von: Podder, Rakesh, et al.
Veröffentlicht: (2025)

Towards Robust and Secure Embodied AI: A Survey on Vulnerabilities and Attacks
von: Xing, Wenpeng, et al.
Veröffentlicht: (2025)

Security of Internet of Agents: Attacks and Countermeasures
von: Wang, Yuntao, et al.
Veröffentlicht: (2025)

Offensive Security for AI Systems: Concepts, Practices, and Applications
von: Harguess, Josh, et al.
Veröffentlicht: (2025)

Security-First AI: Foundations for Robust and Trustworthy Systems
von: Tallam, Krti
Veröffentlicht: (2025)

CAM-LDS: Cyber Attack Manifestations for Automatic Interpretation of System Logs and Security Alerts
von: Landauer, Max, et al.
Veröffentlicht: (2026)

Serverless AI Security: Attack Surface Analysis and Runtime Protection Mechanisms for FaaS-Based Machine Learning
von: Pathade, Chetan, et al.
Veröffentlicht: (2026)

Evolving Security in LLMs: A Study of Jailbreak Attacks and Defenses
von: Shang, Zhengchun, et al.
Veröffentlicht: (2025)

CyberSentinel: An Emergent Threat Detection System for AI Security
von: Tallam, Krti
Veröffentlicht: (2025)

The System Prompt Is the Attack Surface: How LLM Agent Configuration Shapes Security and Creates Exploitable Vulnerabilities
von: Litvak, Ron
Veröffentlicht: (2026)

Securing Agentic AI: Threat Modeling and Risk Analysis for Network Monitoring Agentic AI System
von: Zambare, Pallavi, et al.
Veröffentlicht: (2025)

Security of AI Agents
von: He, Yifeng, et al.
Veröffentlicht: (2024)

MCP Guardian: A Security-First Layer for Safeguarding MCP-Based AI System
von: Kumar, Sonu, et al.
Veröffentlicht: (2025)

CivicShield: A Cross-Domain Defense-in-Depth Framework for Securing Government-Facing AI Chatbots Against Multi-Turn Adversarial Attacks
von: Patil, KrishnaSaiReddy
Veröffentlicht: (2026)

RAG Security and Privacy: Formalizing the Threat Model and Attack Surface
von: Arzanipour, Atousa, et al.
Veröffentlicht: (2025)

Enhancing TinyML Security: Study of Adversarial Attack Transferability
von: Shah, Parin, et al.
Veröffentlicht: (2024)

Democratizing ML for Enterprise Security: A Self-Sustained Attack Detection Framework
von: Momeni, Sadegh, et al.
Veröffentlicht: (2025)

Securing Retrieval-Augmented Generation: A Taxonomy of Attacks, Defenses, and Future Directions
von: Xu, Yuming, et al.
Veröffentlicht: (2026)

SECUREVENT: Hybrid AI/ML Security Monitoring for Distributed Event-Based Systems
von: Liang, Eric
Veröffentlicht: (2026)

ATLAS: AI-Assisted Threat-to-Assertion Learning for System-on-Chip Security Verification
von: Tashdid, Ishraq, et al.
Veröffentlicht: (2026)

Agentic AI for Cyber Resilience: A New Security Paradigm and Its System-Theoretic Foundations
von: Li, Tao, et al.
Veröffentlicht: (2025)

Security of and by Generative AI platforms
von: Hayagreevan, Hari, et al.
Veröffentlicht: (2024)

The AI Security Pyramid of Pain
von: Ward, Chris M., et al.
Veröffentlicht: (2024)

Secure Multiparty Generative AI
von: Shrestha, Manil, et al.
Veröffentlicht: (2024)

MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
von: Van hamme, Tim, et al.
Veröffentlicht: (2026)

Distillability of LLM Security Logic: Predicting Attack Success Rate of Outline Filling Attack via Ranking Regression
von: Zhang, Tianyu, et al.
Veröffentlicht: (2025)

Secure Tug-of-War (SecTOW): Iterative Defense-Attack Training with Reinforcement Learning for Multimodal Model Security
von: Dai, Muzhi, et al.
Veröffentlicht: (2025)

Concept-Guided Backdoor Attack on Vision Language Models
von: Shen, Haoyu, et al.
Veröffentlicht: (2025)

PBI-Attack: Prior-Guided Bimodal Interactive Black-Box Jailbreak Attack for Toxicity Maximization
von: Cheng, Ruoxi, et al.
Veröffentlicht: (2024)

Meta SecAlign: A Secure Foundation LLM Against Prompt Injection Attacks
von: Chen, Sizhe, et al.
Veröffentlicht: (2025)

Autonomous Action Runtime Management(AARM):A System Specification for Securing AI-Driven Actions at Runtime
von: Errico, Herman
Veröffentlicht: (2026)

Towards Secure MLOps: Surveying Attacks, Mitigation Strategies, and Research Challenges
von: Patel, Raj, et al.
Veröffentlicht: (2025)

WASP: Benchmarking Web Agent Security Against Prompt Injection Attacks
von: Evtimov, Ivan, et al.
Veröffentlicht: (2025)

FedSecurity: Benchmarking Attacks and Defenses in Federated Learning and Federated LLMs
von: Han, Shanshan, et al.
Veröffentlicht: (2023)

Cascade: Composing Software-Hardware Attack Gadgets for Adversarial Threat Amplification in Compound AI Systems
von: Banerjee, Sarbartha, et al.
Veröffentlicht: (2026)