Buchumschlag

AIR: Improving Agent Safety through Incident Response

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Xiao, Zibo, Sun, Jun, Chen, Junjie
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

OpenSec: Measuring Incident Response Agent Calibration Under Adversarial Evidence
von: Barnes, Jarrod
Veröffentlicht: (2026)

Anomaly Detection for Incident Response at Scale
von: Wang, Hanzhang, et al.
Veröffentlicht: (2024)

TraceGraph: Shared Decision Landscapes for Diagnosing and Improving Agent Trajectories
von: Nian, Junjie, et al.
Veröffentlicht: (2026)

AGrail: A Lifelong Agent Guardrail with Effective and Adaptive Safety Detection
von: Luo, Weidi, et al.
Veröffentlicht: (2025)

TEMPLATEFUZZ: Fine-Grained Chat Template Fuzzing for Jailbreaking and Red Teaming LLMs
von: Shen, Qingchao, et al.
Veröffentlicht: (2026)

AIR-Bench 2024: A Safety Benchmark Based on Risk Categories from Regulations and Policies
von: Zeng, Yi, et al.
Veröffentlicht: (2024)

KLCBL: An Improved Police Incident Classification Model
von: Zhuoxian, Liu, et al.
Veröffentlicht: (2024)

SIR-Bench: Evaluating Investigation Depth in Security Incident Response Agents
von: Begimher, Daniel, et al.
Veröffentlicht: (2026)

OpsAgent: An Evolving Multi-agent System for Incident Management in Microservices
von: Luo, Yu, et al.
Veröffentlicht: (2025)

Apollonion: Profile-centric Dialog Agent
von: Chen, Shangyu, et al.
Veröffentlicht: (2024)

Incident Analysis for AI Agents
von: Ezell, Carson, et al.
Veröffentlicht: (2025)

Improving Language Agents through BREW
von: Kirtania, Shashank, et al.
Veröffentlicht: (2025)

An Improved Multi-Agent Algorithm for Cooperative and Competitive Environments by Identifying and Encouraging Cooperation among Agents
von: Qi, Junjie, et al.
Veröffentlicht: (2025)

In-Context Autonomous Network Incident Response: An End-to-End Large Language Model Agent Approach
von: Gao, Yiran, et al.
Veröffentlicht: (2026)

ProbGuard: Probabilistic Runtime Monitoring for LLM Agent Safety
von: Wang, Haoyu, et al.
Veröffentlicht: (2025)

Improving Safety Alignment via Balanced Direct Preference Optimization
von: Zhao, Shiji, et al.
Veröffentlicht: (2026)

STAR-S: Improving Safety Alignment through Self-Taught Reasoning on Safety Rules
von: Wu, Di, et al.
Veröffentlicht: (2026)

AIR: Unifying Individual and Collective Exploration in Cooperative Multi-Agent Reinforcement Learning
von: Zhou, Guangchong, et al.
Veröffentlicht: (2024)

Improving the Safety and Trustworthiness of Medical AI via Multi-Agent Evaluation Loops
von: Ghafoor, Zainab, et al.
Veröffentlicht: (2026)

Multi-Agent Evolve: LLM Self-Improve through Co-evolution
von: Chen, Yixing, et al.
Veröffentlicht: (2025)

SafeMind: Benchmarking and Mitigating Safety Risks in Embodied LLM Agents
von: Chen, Ruolin, et al.
Veröffentlicht: (2025)

Behavior Cue Reasoning: Monitorable Reasoning Improves Efficiency and Safety through Oversight
von: Cui, Christopher Z., et al.
Veröffentlicht: (2026)

ClawSafety: "Safe" LLMs, Unsafe Agents
von: Wei, Bowen, et al.
Veröffentlicht: (2026)

Enhancing Traffic Incident Response through Sub-Second Temporal Localization with HybridMamba
von: Shihab, Ibne Farabi, et al.
Veröffentlicht: (2025)

A Large-Scale Empirical Study on Improving the Fairness of Image Classification Models
von: Yang, Junjie, et al.
Veröffentlicht: (2024)

AI Loss of Control Incident Management: Response & Resilience
von: Gruetzemacher, Ross
Veröffentlicht: (2026)

Position: AI Safety Requires Effective Controllability
von: Li, Yige, et al.
Veröffentlicht: (2026)

DeepKnown-Guard: A Proprietary Model-Based Safety Response Framework for AI Agents
von: Li, Qi, et al.
Veröffentlicht: (2025)

Automated Traffic Incident Response Plans using Generative Artificial Intelligence: Part 1 -- Building the Incident Response Benchmark
von: Grigorev, Artur, et al.
Veröffentlicht: (2025)

Multi-View Neural Differential Equations for Continuous-Time Stream Data in Long-Term Traffic Forecasting
von: Liu, Zibo, et al.
Veröffentlicht: (2024)

LSSF: Safety Alignment for Large Language Models through Low-Rank Safety Subspace Fusion
von: Zhou, Guanghao, et al.
Veröffentlicht: (2026)

EvoMAS: Learning Execution-Time Workflows for Multi-Agent Systems
von: Xu, Chengdong, et al.
Veröffentlicht: (2026)

Agent-R: Training Language Model Agents to Reflect via Iterative Self-Training
von: Yuan, Siyu, et al.
Veröffentlicht: (2025)

Safe Bilevel Delegation (SBD): A Formal Framework for Runtime Delegation Safety in Multi-Agent Systems
von: Sun, Yuan
Veröffentlicht: (2026)

Toward Safety-First Human-Like Decision Making for Autonomous Vehicles in Time-Varying Traffic Flow
von: Wang, Xiao, et al.
Veröffentlicht: (2025)

OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety
von: Vijayvargiya, Sanidhya, et al.
Veröffentlicht: (2025)

AdvEvo-MARL: Shaping Internalized Safety through Adversarial Co-Evolution in Multi-Agent Reinforcement Learning
von: Pan, Zhenyu, et al.
Veröffentlicht: (2025)

PSG-Agent: Personality-Aware Safety Guardrail for LLM-based Agents
von: Wu, Yaozu, et al.
Veröffentlicht: (2025)

AIR: Complex Instruction Generation via Automatic Iterative Refinement
von: Liu, Wei, et al.
Veröffentlicht: (2025)

Chances and Challenges of the Model Context Protocol in Digital Forensics and Incident Response
von: Hilgert, Jan-Niclas, et al.
Veröffentlicht: (2025)