Buchumschlag

MedSentry: Understanding and Mitigating Safety Risks in Medical LLM Multi-Agent Systems

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chen, Kai, Zhen, Taihang, Wang, Hewei, Liu, Kailai, Li, Xinfeng, Huo, Jing, Yang, Tianpei, Xu, Jinfeng, Dong, Wei, Gao, Yang
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Multiagent Systems Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Multi-Agent Reinforcement Learning with Communication-Constrained Priors
von: Yang, Guang, et al.
Veröffentlicht: (2025)

MDTeamGPT: A Self-Evolving LLM-based Multi-Agent Framework for Multi-Disciplinary Team Medical Consultation
von: Chen, Kai, et al.
Veröffentlicht: (2025)

Aegis:An Advanced LLM-Based Multi-Agent for Intelligent Functional Safety Engineering
von: Shi, Lu, et al.
Veröffentlicht: (2024)

MRGAgents: A Multi-Agent Framework for Improved Medical Report Generation with Med-LVLMs
von: Wang, Pengyu, et al.
Veröffentlicht: (2025)

MedAgentBench: A Realistic Virtual EHR Environment to Benchmark Medical LLM Agents
von: Jiang, Yixing, et al.
Veröffentlicht: (2025)

A Vision for Access Control in LLM-based Agent Systems
von: Li, Xinfeng, et al.
Veröffentlicht: (2025)

Beyond Single-Agent Safety: A Taxonomy of Risks in LLM-to-LLM Interactions
von: Bisconti, Piercosma, et al.
Veröffentlicht: (2025)

MedAgentBoard: Benchmarking Multi-Agent Collaboration with Conventional Methods for Diverse Medical Tasks
von: Zhu, Yinghao, et al.
Veröffentlicht: (2025)

AgenticPrecoding: LLM-Empowered Multi-Agent System for Precoding Optimization
von: Yang, Zijiu, et al.
Veröffentlicht: (2026)

INFA-Guard: Mitigating Malicious Propagation via Infection-Aware Safeguarding in LLM-Based Multi-Agent Systems
von: Zhou, Yijin, et al.
Veröffentlicht: (2026)

MedDCR: Learning to Design Agentic Workflows for Medical Coding
von: Zheng, Jiyang, et al.
Veröffentlicht: (2025)

ReasonMed: A 370K Multi-Agent Generated Dataset for Advancing Medical Reasoning
von: Sun, Yu, et al.
Veröffentlicht: (2025)

MedRAX: Medical Reasoning Agent for Chest X-ray
von: Fallahpour, Adibvafa, et al.
Veröffentlicht: (2025)

Pancake: Hierarchical Memory System for Multi-Agent LLM Serving
von: Hu, Zhengding, et al.
Veröffentlicht: (2026)

TAMAS: Benchmarking Adversarial Risks in Multi-Agent LLM Systems
von: Kavathekar, Ishan, et al.
Veröffentlicht: (2025)

How Brittle is Agent Safety? Rethinking Agent Risk under Intent Concealment and Task Complexity
von: Ma, Zihan, et al.
Veröffentlicht: (2025)

Symphony-Coord: Adaptive Routing for Multi-Agent LLM Systems
von: Guan, Zhaoyang, et al.
Veröffentlicht: (2026)

Agent-Kernel: A MicroKernel Multi-Agent System Framework for Adaptive Social Simulation Powered by LLMs
von: Mao, Yuren, et al.
Veröffentlicht: (2025)

Distributed Task Allocation for Multi-Agent Systems: A Submodular Optimization Approach
von: Liu, Jing, et al.
Veröffentlicht: (2024)

Gated Coordination for Efficient Multi-Agent Collaboration in Minecraft Game
von: Jian, HuaDong, et al.
Veröffentlicht: (2026)

TVDO: Tchebycheff Value-Decomposition Optimization for Multi-Agent Reinforcement Learning
von: Hu, Xiaoliang, et al.
Veröffentlicht: (2023)

Emergence in Multi-Agent Systems: A Safety Perspective
von: Altmann, Philipp, et al.
Veröffentlicht: (2024)

LLM-ABM for Transportation: Assessing the Potential of LLM Agents in System Analysis
von: Liu, Tianming, et al.
Veröffentlicht: (2025)

Empowering Medical Multi-Agents with Clinical Consultation Flow for Dynamic Diagnosis
von: Wang, Sihan, et al.
Veröffentlicht: (2025)

Multi-Agent Medical Decision Consensus Matrix System: An Intelligent Collaborative Framework for Oncology MDT Consultations
von: Han, Xudong, et al.
Veröffentlicht: (2025)

Invisible Orchestrators Suppress Protective Behavior and Dissociate Power-Holders: Safety Risks in Multi-Agent LLM Systems
von: Fukui, Hiroki
Veröffentlicht: (2026)

MetaCogAgent: A Metacognitive Multi-Agent LLM Framework with Self-Aware Task Delegation
von: Wang, Chenyu, et al.
Veröffentlicht: (2026)

Risk Analysis Techniques for Governed LLM-based Multi-Agent Systems
von: Reid, Alistair, et al.
Veröffentlicht: (2025)

Guided Collaboration in Heterogeneous LLM-Based Multi-Agent Systems via Entropy-Based Understanding Assessment and Experience Retrieval
von: Wang, Linlin, et al.
Veröffentlicht: (2026)

From Spark to Fire: Modeling and Mitigating Error Cascades in LLM-Based Multi-Agent Collaboration
von: Xie, Yizhe, et al.
Veröffentlicht: (2026)

Active Learning for Communication Structure Optimization in LLM-Based Multi-Agent Systems
von: Yang, Huchen, et al.
Veröffentlicht: (2026)

AgentSchool: An LLM-Powered Multi-Agent Simulation for Education
von: Ye, Yulei, et al.
Veröffentlicht: (2026)

Stop Reducing Responsibility in LLM-Powered Multi-Agent Systems to Local Alignment
von: Hu, Jinwei, et al.
Veröffentlicht: (2025)

AgentNet: Decentralized Evolutionary Coordination for LLM-based Multi-Agent Systems
von: Yang, Yingxuan, et al.
Veröffentlicht: (2025)

Agent-GSPO: Communication-Efficient Multi-Agent Systems via Group Sequence Policy Optimization
von: Fan, Yijia, et al.
Veröffentlicht: (2025)

Understanding the Information Propagation Effects of Communication Topologies in LLM-based Multi-Agent Systems
von: Shen, Xu, et al.
Veröffentlicht: (2025)

The Subtle Art of Defection: Understanding Uncooperative Behaviors in LLM based Multi-Agent Systems
von: Kulshreshtha, Devang, et al.
Veröffentlicht: (2025)

Towards Efficient LLM Grounding for Embodied Multi-Agent Collaboration
von: Zhang, Yang, et al.
Veröffentlicht: (2024)

A Safety-Aware Role-Orchestrated Multi-Agent LLM Framework for Behavioral Health Communication Simulation
von: Cho, Ha Na
Veröffentlicht: (2026)

ALAS: Transactional and Dynamic Multi-Agent LLM Planning
von: Geng, Longling, et al.
Veröffentlicht: (2025)