Buchumschlag

Beyond Linear Probes: Dynamic Safety Monitoring for Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Oldfield, James, Torr, Philip, Patras, Ioannis, Bibi, Adel, Barez, Fazl
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Towards Interpretable Sequence Continuation: Analyzing Shared Circuits in Large Language Models
von: Lan, Michael, et al.
Veröffentlicht: (2023)

SafetyNet: Detecting Harmful Outputs in LLMs by Modeling and Monitoring Deceptive Behaviors
von: Chaudhary, Maheep, et al.
Veröffentlicht: (2025)

Rethinking Safety in LLM Fine-tuning: An Optimization Perspective
von: Kim, Minseon, et al.
Veröffentlicht: (2025)

Do Sparse Autoencoders Generalize? A Case Study of Answerability
von: Heindrich, Lovis, et al.
Veröffentlicht: (2025)

Understanding Addition in Transformers
von: Quirke, Philip, et al.
Veröffentlicht: (2023)

Bi-Factorial Preference Optimization: Balancing Safety-Helpfulness in Language Models
von: Zhang, Wenxuan, et al.
Veröffentlicht: (2024)

Beyond Linear Steering: Unified Multi-Attribute Control for Language Models
von: Oozeer, Narmeen, et al.
Veröffentlicht: (2025)

Towards Interpreting Visual Information Processing in Vision-Language Models
von: Neo, Clement, et al.
Veröffentlicht: (2024)

Interpreting Learned Feedback Patterns in Large Language Models
von: Marks, Luke, et al.
Veröffentlicht: (2023)

Quantifying Feature Space Universality Across Large Language Models via Sparse Autoencoders
von: Lan, Michael, et al.
Veröffentlicht: (2024)

Understanding Addition and Subtraction in Transformers
von: Quirke, Philip, et al.
Veröffentlicht: (2024)

Same Question, Different Words: A Latent Adversarial Framework for Prompt Robustness
von: Fu, Tingchen, et al.
Veröffentlicht: (2025)

When Do Prompting and Prefix-Tuning Work? A Theory of Capabilities and Limitations
von: Petrov, Aleksandar, et al.
Veröffentlicht: (2023)

Prompting a Pretrained Transformer Can Be a Universal Approximator
von: Petrov, Aleksandar, et al.
Veröffentlicht: (2024)

Do as I do (Safely): Mitigating Task-Specific Fine-tuning Risks in Large Language Models
von: Eiras, Francisco, et al.
Veröffentlicht: (2024)

Enhancing Neural Network Interpretability with Feature-Aligned Sparse Autoencoders
von: Marks, Luke, et al.
Veröffentlicht: (2024)

Detecting LLM Hallucination Through Layer-wise Information Deficiency: Analysis of Ambiguous Prompts and Unanswerable Questions
von: Kim, Hazel, et al.
Veröffentlicht: (2024)

Towards Certification of Uncertainty Calibration under Adversarial Attacks
von: Emde, Cornelius, et al.
Veröffentlicht: (2024)

Model Merging and Safety Alignment: One Bad Model Spoils the Bunch
von: Hammoud, Hasan Abed Al Kader, et al.
Veröffentlicht: (2024)

Interpreting Context Look-ups in Transformers: Investigating Attention-MLP Interactions
von: Neo, Clement, et al.
Veröffentlicht: (2024)

Towards Understanding Subliminal Learning: When and How Hidden Biases Transfer
von: Schrodi, Simon, et al.
Veröffentlicht: (2025)

Visualizing Neural Network Imagination
von: Wichers, Nevan, et al.
Veröffentlicht: (2024)

Efficient Lifelong Model Evaluation in an Era of Rapid Progress
von: Prabhu, Ameya, et al.
Veröffentlicht: (2024)

Universal In-Context Approximation By Prompting Fully Recurrent Models
von: Petrov, Aleksandar, et al.
Veröffentlicht: (2024)

Towards Interpretability Without Sacrifice: Faithful Dense Layer Decomposition with Mixture of Decoders
von: Oldfield, James, et al.
Veröffentlicht: (2025)

Open Problems in Machine Unlearning for AI Safety
von: Barez, Fazl, et al.
Veröffentlicht: (2025)

Data Matters Most: Auditing Social Bias in Contrastive Vision Language Models
von: Sahili, Zahraa Al, et al.
Veröffentlicht: (2025)

MIP against Agent: Malicious Image Patches Hijacking Multimodal OS Agents
von: Aichberger, Lukas, et al.
Veröffentlicht: (2025)

Safer by Diffusion, Broken by Context: Diffusion LLM's Safety Blessing and Its Failure Mode
von: He, Zeyuan, et al.
Veröffentlicht: (2026)

Breaking Language Barriers or Reinforcing Bias? A Study of Gender and Racial Disparities in Multilingual Contrastive Vision Language Models
von: Sahili, Zahraa Al, et al.
Veröffentlicht: (2025)

FORCE: Transferable Visual Jailbreaking Attacks via Feature Over-Reliance CorrEction
von: Lin, Runqi, et al.
Veröffentlicht: (2025)

Segment, Select, Correct: A Framework for Weakly-Supervised Referring Segmentation
von: Eiras, Francisco, et al.
Veröffentlicht: (2023)

Efficient Error Certification for Physics-Informed Neural Networks
von: Eiras, Francisco, et al.
Veröffentlicht: (2023)

Continual Learning on a Diet: Learning from Sparsely Labeled Streams Under Constrained Computation
von: Zhang, Wenxuan, et al.
Veröffentlicht: (2024)

Scaling sparse feature circuit finding for in-context learning
von: Kharlapenko, Dmitrii, et al.
Veröffentlicht: (2025)

Towards Interpretable Deep Local Learning with Successive Gradient Reconciliation
von: Yang, Yibo, et al.
Veröffentlicht: (2024)

From Categories to Classifiers: Name-Only Continual Learning by Exploring the Web
von: Prabhu, Ameya, et al.
Veröffentlicht: (2023)

FairCoT: Enhancing Fairness in Text-to-Image Generation via Chain of Thought Reasoning with Multimodal Large Language Models
von: Sahili, Zahraa Al, et al.
Veröffentlicht: (2024)

Multilinear Mixture of Experts: Scalable Expert Specialization through Factorization
von: Oldfield, James, et al.
Veröffentlicht: (2024)

Mixture of Experts Made Intrinsically Interpretable
von: Yang, Xingyi, et al.
Veröffentlicht: (2025)