Buchumschlag

Misalignment Bounty: Crowdsourcing AI Agent Misbehavior

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Turtayev, Rustem, Fedorova, Natalia, Serikov, Oleg, Koldyba, Sergey, Avagyan, Lev, Volkov, Dmitrii
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Hacking CTFs with Plain Agents
von: Turtayev, Rustem, et al.
Veröffentlicht: (2024)

LLM Agent Honeypot: Monitoring AI Hacking Agents in the Wild
von: Reworr, et al.
Veröffentlicht: (2024)

Evaluating AI cyber capabilities with crowdsourced elicitation
von: Petrov, Artem, et al.
Veröffentlicht: (2025)

Hodoscope: Unsupervised Monitoring for AI Misbehaviors
von: Zhong, Ziqian, et al.
Veröffentlicht: (2026)

Training Agents to Self-Report Misbehavior
von: Lee, Bruce W., et al.
Veröffentlicht: (2026)

Badllama 3: removing safety finetuning from Llama 3 in minutes
von: Volkov, Dmitrii
Veröffentlicht: (2024)

Wink: Recovering from Misbehaviors in Coding Agents
von: Nanda, Rahul, et al.
Veröffentlicht: (2026)

Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation
von: Baker, Bowen, et al.
Veröffentlicht: (2025)

Agent Hunt: Bounty Based Collaborative Autoformalization With LLM Agents
von: Brown, Chad E., et al.
Veröffentlicht: (2026)

Demonstrating specification gaming in reasoning models
von: Bondarenko, Alexander, et al.
Veröffentlicht: (2025)

The Current State of AI Bias Bounties: An Overview of Existing Programmes and Research
von: Kucenko, Sergej, et al.
Veröffentlicht: (2025)

LLMScan: Causal Scan for LLM Misbehavior Detection
von: Zhang, Mengdi, et al.
Veröffentlicht: (2024)

BountyBench: Dollar Impact of AI Agent Attackers and Defenders on Real-World Cybersecurity Systems
von: Zhang, Andy K., et al.
Veröffentlicht: (2025)

TeachAnything: A Multimodal Crowdsourcing Platform for Training Embodied AI Agents in Symmetrical Reality
von: Liu, Zidong, et al.
Veröffentlicht: (2026)

Multi-layer random features and the approximation power of neural networks
von: Takhanov, Rustem
Veröffentlicht: (2024)

From Single Agent to Multi-Agent: Improving Traffic Signal Control
von: Tislenko, Maksim, et al.
Veröffentlicht: (2024)

How to Correctly do Semantic Backpropagation on Language-based Agentic Systems
von: Wang, Wenyi, et al.
Veröffentlicht: (2024)

Convergence dynamics of Agent-to-Agent Interactions with Misaligned objectives
von: Cosentino, Romain, et al.
Veröffentlicht: (2025)

Layerwise Convergence Fingerprints for Runtime Misbehavior Detection in Large Language Models
von: Min, Nay Myat, et al.
Veröffentlicht: (2026)

A Novel Labeled Human Voice Signal Dataset for Misbehavior Detection
von: Raza, Ali, et al.
Veröffentlicht: (2024)

The Coming Crisis of Multi-Agent Misalignment: AI Alignment Must Be a Dynamic and Social Process
von: Carichon, Florian, et al.
Veröffentlicht: (2025)

Preemptive Detection and Correction of Misaligned Actions in LLM Agents
von: Fang, Haishuo, et al.
Veröffentlicht: (2024)

Semantic Laundering in AI Agent Architectures: Why Tool Boundaries Do Not Confer Epistemic Warrant
von: Romanchuk, Oleg, et al.
Veröffentlicht: (2026)

Conditional KRR: Injecting Unpenalized Features into Kernel Methods with Applications to Kernel Thresholding
von: Takhanov, Rustem, et al.
Veröffentlicht: (2026)

AttentionGuard: Transformer-based Misbehavior Detection for Secure Vehicular Platoons
von: Li, Hexu, et al.
Veröffentlicht: (2025)

Towards Robust Speech Deepfake Detection via Human-Inspired Reasoning
von: Dvirniak, Artem, et al.
Veröffentlicht: (2026)

Emergent Misalignment is Easy, Narrow Misalignment is Hard
von: Soligo, Anna, et al.
Veröffentlicht: (2026)

Assessing the Potential of Generative Agents in Crowdsourced Fact-Checking
von: Costabile, Luigia, et al.
Veröffentlicht: (2025)

Experimental Narratives: A Comparison of Human Crowdsourced Storytelling and AI Storytelling
von: Begus, Nina
Veröffentlicht: (2023)

Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment
von: Carro, Maria Victoria, et al.
Veröffentlicht: (2026)

Attention in Motion: Secure Platooning via Transformer-based Misbehavior Detection
von: Kalogiannis, Konstantinos, et al.
Veröffentlicht: (2025)

LLMs Deceive Unintentionally: Emergent Misalignment in Dishonesty from Misaligned Samples to Biased Human-AI Interactions
von: Hu, Xuhao, et al.
Veröffentlicht: (2025)

The Hot Mess of AI: How Does Misalignment Scale With Model Intelligence and Task Complexity?
von: Hägele, Alexander, et al.
Veröffentlicht: (2026)

ROGUE: Misaligned Agent Behavior Arising from Ordinary Computer Use
von: Tien, Jeremy, et al.
Veröffentlicht: (2026)

Overtrained, Not Misaligned
von: Schreiber, Joel, et al.
Veröffentlicht: (2026)

Probabilistic Verification of Voice Anti-Spoofing Models
von: Kushnir, Evgeny, et al.
Veröffentlicht: (2026)

Human-in-the-Loop and AI: Crowdsourcing Metadata Vocabulary for Materials Science
von: Greenberg, Jane, et al.
Veröffentlicht: (2025)

Thought Virus: Viral Misalignment via Subliminal Prompting in Multi-Agent Systems
von: Weckbecker, Moritz, et al.
Veröffentlicht: (2026)

Characterizing the Consistency of the Emergent Misalignment Persona
von: Weckauff, Anietta, et al.
Veröffentlicht: (2026)

Password-Activated Shutdown Protocols for Misaligned Frontier Agents
von: Williams, Kai, et al.
Veröffentlicht: (2025)