Buchumschlag

Games for AI Control: Models of Safety Evaluations of AI Deployment Protocols

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Griffin, Charlie, Thomson, Louis, Shlegeris, Buck, Abate, Alessandro
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Artificial Intelligence Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Subversion Strategy Eval: Can language models statelessly strategize to subvert control protocols?
von: Mallen, Alex, et al.
Veröffentlicht: (2024)

Evaluating Control Protocols for Untrusted AI Agents
von: Kutasov, Jon, et al.
Veröffentlicht: (2025)

AI Control: Improving Safety Despite Intentional Subversion
von: Greenblatt, Ryan, et al.
Veröffentlicht: (2023)

Efficiently Deploying LLMs with Controlled Risk
von: Zellinger, Michael J., et al.
Veröffentlicht: (2024)

Language models are better than humans at next-token prediction
von: Shlegeris, Buck, et al.
Veröffentlicht: (2022)

Holistic Safety and Responsibility Evaluations of Advanced AI Models
von: Weidinger, Laura, et al.
Veröffentlicht: (2024)

Neural Proofs for Sound Verification and Control of Complex Systems
von: Abate, Alessandro
Veröffentlicht: (2025)

Polysemanticity and Capacity in Neural Networks
von: Scherlis, Adam, et al.
Veröffentlicht: (2022)

The Oversight Game: Learning to Cooperatively Balance an AI Agent's Safety and Autonomy
von: Overman, William, et al.
Veröffentlicht: (2025)

Partial Identifiability and Misspecification in Inverse Reinforcement Learning
von: Skalse, Joar, et al.
Veröffentlicht: (2024)

On the Limitations of Markovian Rewards to Express Multi-Objective, Risk-Sensitive, and Modal Tasks
von: Skalse, Joar, et al.
Veröffentlicht: (2024)

DeepLTL: Learning to Efficiently Satisfy Complex LTL Specifications for Multi-Task RL
von: Jackermeier, Mathias, et al.
Veröffentlicht: (2024)

Partial Identifiability in Inverse Reinforcement Learning For Agents With Non-Exponential Discounting
von: Skalse, Joar, et al.
Veröffentlicht: (2024)

NeuroAI for AI Safety
von: Mineault, Patrick, et al.
Veröffentlicht: (2024)

Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
von: Korbak, Tomek, et al.
Veröffentlicht: (2025)

Networked Communication for Decentralised Agents in Mean-Field Games
von: Benjamin, Patrick, et al.
Veröffentlicht: (2023)

Resource-Efficient Generative AI Model Deployment in Mobile Edge Networks
von: Liang, Yuxin, et al.
Veröffentlicht: (2024)

AIPC: Agent-Based Automation for AI Model Deployment with Qualcomm AI Runtime
von: Su, Jianhao, et al.
Veröffentlicht: (2026)

Zero-Shot Instruction Following in RL via Structured LTL Representations
von: Giuri, Mattia, et al.
Veröffentlicht: (2025)

Efficient Solution and Learning of Robust Factored MDPs
von: Schnitzer, Yannik, et al.
Veröffentlicht: (2025)

ML Compass: Navigating Capability, Cost, and Compliance Trade-offs in AI Model Deployment
von: Digalakis Jr, Vassilis, et al.
Veröffentlicht: (2025)

Networked Communication for Mean-Field Games with Function Approximation and Empirical Mean-Field Estimation
von: Benjamin, Patrick, et al.
Veröffentlicht: (2024)

Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols
von: Terekhov, Mikhail, et al.
Veröffentlicht: (2025)

Temporal-Difference Variational Continual Learning
von: Melo, Luckeciano C., et al.
Veröffentlicht: (2024)

Stabilizing Policy Gradients for Sample-Efficient Reinforcement Learning in LLM Reasoning
von: Melo, Luckeciano C., et al.
Veröffentlicht: (2025)

WATCH: Adaptive Monitoring for AI Deployments via Weighted-Conformal Martingales
von: Prinster, Drew, et al.
Veröffentlicht: (2025)

Shutdown Safety Valves for Advanced AI
von: Conitzer, Vincent
Veröffentlicht: (2026)

AI-CARE: Carbon-Aware Reporting Evaluation Metric for AI Models
von: Santosh, KC, et al.
Veröffentlicht: (2026)

Evaluating Machine Learning Models against Clinical Protocols for Enhanced Interpretability and Continuity of Care
von: Sirocchi, Christel, et al.
Veröffentlicht: (2024)

Sabotage Evaluations for Frontier Models
von: Benton, Joe, et al.
Veröffentlicht: (2024)

Cognitive Edge Computing: A Comprehensive Survey on Optimizing Large Models and AI Agents for Pervasive Deployment
von: Wang, Xubin, et al.
Veröffentlicht: (2025)

Knowledge Grafting: A Mechanism for Optimizing AI Model Deployment in Resource-Constrained Environments
von: Almurshed, Osama, et al.
Veröffentlicht: (2025)

Probabilistic Performance Guarantees for Multi-Task Reinforcement Learning
von: Schnitzer, Yannik, et al.
Veröffentlicht: (2026)

Zero-Shot Instruction Following in RL via Structured LTL Representations
von: Jackermeier, Mathias, et al.
Veröffentlicht: (2026)

AI Agents as Universal Task Solvers
von: Achille, Alessandro, et al.
Veröffentlicht: (2025)

Guided Game Level Repair via Explainable AI
von: Bazzaz, Mahsa, et al.
Veröffentlicht: (2024)

On the Impact of Black-box Deployment Strategies for Edge AI on Latency and Model Performance
von: Singh, Jaskirat, et al.
Veröffentlicht: (2024)

Designing and Deploying AI Models for Sustainable Logistics Optimization: A Case Study on Eco-Efficient Supply Chains in the USA
von: Shawon, Reza E Rabbi, et al.
Veröffentlicht: (2025)

Certifiably Robust Policies for Uncertain Parametric Environments
von: Schnitzer, Yannik, et al.
Veröffentlicht: (2024)

Strategic Dishonesty Can Undermine AI Safety Evaluations of Frontier LLMs
von: Panfilov, Alexander, et al.
Veröffentlicht: (2025)