Buchumschlag

Deceptive Automated Interpretability: Language Models Coordinating to Fool Oversight Systems

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Lermen, Simon, Dziemian, Mateusz, Antolín, Natalia Pérez-Campanero
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Applying Refusal-Vector Ablation to Llama 3.1 70B Agents
von: Lermen, Simon, et al.
Veröffentlicht: (2024)

Too Big to Fool: Resisting Deception in Language Models
von: Samsami, Mohammad Reza, et al.
Veröffentlicht: (2024)

CryptoFormalEval: Integrating LLMs and Formal Verification for Automated Cryptographic Protocol Vulnerability Detection
von: Curaba, Cristian, et al.
Veröffentlicht: (2024)

Leveraging Large Language Models for Building Interpretable Rule-Based Data-to-Text Systems
von: Warczyński, Jędrzej, et al.
Veröffentlicht: (2025)

Language Model Re-rankers are Fooled by Lexical Similarities
von: Hagström, Lovisa, et al.
Veröffentlicht: (2025)

To Tell The Truth: Language of Deception and Language Models
von: Hazra, Sanchaita, et al.
Veröffentlicht: (2023)

Identifying Cooperative Personalities in Multi-agent Contexts through Personality Steering with Representation Engineering
von: Ong, Kenneth J. K., et al.
Veröffentlicht: (2025)

Emergent Languages in Populations of Language Model Agents: From Token Efficiency to Oversight Evasion
von: Beltoft, Stine Lyngsø, et al.
Veröffentlicht: (2026)

LLM Agents Implement an NLG System from Scratch: Building Interpretable Rule-Based RDF-to-Text Generators
von: Lango, Mateusz, et al.
Veröffentlicht: (2025)

LieCraft: A Multi-Agent Framework for Evaluating Deceptive Capabilities in Language Models
von: Olson, Matthew Lyle, et al.
Veröffentlicht: (2026)

PHANTOM RECALL: When Familiar Puzzles Fool Smart Models
von: Mukhopadhyay, Souradeep, et al.
Veröffentlicht: (2025)

Stress-testing Machine Generated Text Detection: Shifting Language Models Writing Style to Fool Detectors
von: Pedrotti, Andrea, et al.
Veröffentlicht: (2025)

An Assessment of Model-On-Model Deception
von: Heitkoetter, Julius, et al.
Veröffentlicht: (2024)

Seamless Deception: Larger Language Models Are Better Knowledge Concealers
von: Ashok, Dhananjay, et al.
Veröffentlicht: (2026)

Unmasking the Shadows of AI: Investigating Deceptive Capabilities in Large Language Models
von: Guo, Linge
Veröffentlicht: (2024)

The Point of No Return: Counterfactual Localization of Deceptive Commitment in Language-Model Reasoning
von: Merrill, Scott, et al.
Veröffentlicht: (2026)

Fooling the Textual Fooler via Randomizing Latent Representations
von: Hoang, Duy C., et al.
Veröffentlicht: (2023)

Deception Abilities Emerged in Large Language Models
von: Hagendorff, Thilo
Veröffentlicht: (2023)

Automated Interpretability and Feature Discovery in Language Models with Agents
von: Marin-Llobet, Arnau, et al.
Veröffentlicht: (2026)

Compromising Honesty and Harmlessness in Language Models via Deception Attacks
von: Vaugrante, Laurène, et al.
Veröffentlicht: (2025)

From Deception to Detection: The Dual Roles of Large Language Models in Fake News
von: Sallami, Dorsaf, et al.
Veröffentlicht: (2024)

Language Models Optimized to Fool Detectors Still Have a Distinct Style (And How to Change It)
von: Soto, Rafael Rivera, et al.
Veröffentlicht: (2025)

Unmasking Deceptive Visuals: Benchmarking Multimodal Large Language Models on Misleading Chart Question Answering
von: Chen, Zixin, et al.
Veröffentlicht: (2025)

Great Models Think Alike and this Undermines AI Oversight
von: Goel, Shashwat, et al.
Veröffentlicht: (2025)

Exploitation Without Deception: Dark Triad Feature Steering Reveals Separable Antisocial Circuits in Language Models
von: Berg, Cameron, et al.
Veröffentlicht: (2026)

Beyond Lines and Circles: Unveiling the Geometric Reasoning Gap in Large Language Models
von: Mouselinos, Spyridon, et al.
Veröffentlicht: (2024)

OpenDeception: Learning Deception and Trust in Human-AI Interaction via Multi-Agent Simulation
von: Wu, Yichen, et al.
Veröffentlicht: (2025)

On the Importance and Evaluation of Narrativity in Natural Language AI Explanations
von: Cedro, Mateusz, et al.
Veröffentlicht: (2026)

Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL
von: Abdulhai, Marwa, et al.
Veröffentlicht: (2025)

Uncovering Deceptive Tendencies in Language Models: A Simulated Company AI Assistant
von: Järviniemi, Olli, et al.
Veröffentlicht: (2024)

Can AI Models be Jailbroken to Phish Elderly Victims? An End-to-End Evaluation
von: Heiding, Fred, et al.
Veröffentlicht: (2025)

NYT-Connections: A Deceptively Simple Text Classification Task that Stumps System-1 Thinkers
von: Lopez, Angel Yahir Loredo, et al.
Veröffentlicht: (2024)

Interpretability of Language Models via Task Spaces
von: Weber, Lucas, et al.
Veröffentlicht: (2024)

Activation Scaling for Steering and Interpreting Language Models
von: Stoehr, Niklas, et al.
Veröffentlicht: (2024)

Automating Legal Interpretation with LLMs: Retrieval, Generation, and Evaluation
von: Luo, Kangcheng, et al.
Veröffentlicht: (2025)

Small Language Models Fine-tuned to Coordinate Larger Language Models improve Complex Reasoning
von: Juneja, Gurusha, et al.
Veröffentlicht: (2023)

SequentialBreak: Large Language Models Can be Fooled by Embedding Jailbreak Prompts into Sequential Prompt Chains
von: Saiem, Bijoy Ahmed, et al.
Veröffentlicht: (2024)

Preservation of Language Understanding Capabilities in Speech-aware Large Language Models
von: Kubis, Marek, et al.
Veröffentlicht: (2025)

Click it or Leave it: Detecting and Spoiling Clickbait with Informativeness Measures and Large Language Models
von: Michaluk, Wojciech, et al.
Veröffentlicht: (2026)

Towards Scalable Oversight via Partitioned Human Supervision
von: Yin, Ren, et al.
Veröffentlicht: (2025)