Buchumschlag

Atlas-Alignment: Making Interpretability Transferable Across Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Puri, Bruno, Berend, Jim, Lapuschkin, Sebastian, Samek, Wojciech
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Circuit Insights: Towards Interpretability Beyond Activations
von: Golimblevskaia, Elena, et al.
Veröffentlicht: (2025)

FADE: Why Bad Descriptions Happen to Good Features
von: Puri, Bruno, et al.
Veröffentlicht: (2025)

Ensuring Medical AI Safety: Interpretability-Driven Detection and Mitigation of Spurious Model Behavior and Associated Data
von: Pahde, Frederik, et al.
Veröffentlicht: (2025)

From What to How: Attributing CLIP's Latent Components Reveals Unexpected Semantic Reliance
von: Dreyer, Maximilian, et al.
Veröffentlicht: (2025)

Iterative Inference in a Chess-Playing Neural Network
von: Sandmann, Elias, et al.
Veröffentlicht: (2025)

Mechanistic understanding and validation of large AI models with SemanticLens
von: Dreyer, Maximilian, et al.
Veröffentlicht: (2025)

Beyond Scalars: Concept-Based Alignment Analysis in Vision Transformers
von: Vielhaben, Johanna, et al.
Veröffentlicht: (2024)

Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation
von: Weber, Leander, et al.
Veröffentlicht: (2023)

The Atlas of In-Context Learning: How Attention Heads Shape In-Context Retrieval Augmentation
von: Kahardipraja, Patrick, et al.
Veröffentlicht: (2025)

Attribution-Guided Pruning for Insight and Control: Circuit Discovery and Targeted Correction in Small-scale LLMs
von: Hatefi, Sayed Mohammad Vakilzadeh, et al.
Veröffentlicht: (2025)

Post-Hoc Concept Disentanglement: From Correlated to Isolated Concept Representations
von: Erogullari, Eren, et al.
Veröffentlicht: (2025)

Explaining Predictive Uncertainty by Exposing Second-Order Effects
von: Bley, Florian, et al.
Veröffentlicht: (2024)

Reactive Model Correction: Mitigating Harm to Task-Relevant Features via Conditional Bias Suppression
von: Bareeva, Dilyara, et al.
Veröffentlicht: (2024)

Human-Centered Evaluation of XAI Methods
von: Dawoud, Karam, et al.
Veröffentlicht: (2023)

AttnLRP: Attention-Aware Layer-Wise Relevance Propagation for Transformers
von: Achtibat, Reduan, et al.
Veröffentlicht: (2024)

A Close Look at Decomposition-based XAI-Methods for Transformer Language Models
von: Arras, Leila, et al.
Veröffentlicht: (2025)

PURE: Turning Polysemantic Neurons Into Pure Features by Identifying Relevant Circuits
von: Dreyer, Maximilian, et al.
Veröffentlicht: (2024)

Contrastive Semantic Projection: Faithful Neuron Labeling with Contrastive Examples
von: Bouanani, Oussama, et al.
Veröffentlicht: (2026)

ECQ$^{\text{x}}$: Explainability-Driven Quantization for Low-Bit and Sparse DNNs
von: Becking, Daniel, et al.
Veröffentlicht: (2021)

Quanda: An Interpretability Toolkit for Training Data Attribution Evaluation and Beyond
von: Bareeva, Dilyara, et al.
Veröffentlicht: (2024)

Building Trust in PINNs: Error Estimation through Finite Difference Methods
von: Krasowski, Aleksander, et al.
Veröffentlicht: (2026)

Playing the network backward: A Game Theoretic Attribution Framework
von: Zimmermann, Jakob Paul, et al.
Veröffentlicht: (2026)

Sparse, Efficient and Explainable Data Attribution with DualXDA
von: Yolcu, Galip Ümit, et al.
Veröffentlicht: (2024)

Relevance-driven Input Dropout: an Explanation-guided Regularization Technique
von: Gururaj, Shreyas, et al.
Veröffentlicht: (2025)

Reinforced Language Models for Sequential Decision Making
von: Dilkes, Jim, et al.
Veröffentlicht: (2025)

From Attribution Maps to Human-Understandable Explanations through Concept Relevance Propagation
von: Achtibat, Reduan, et al.
Veröffentlicht: (2022)

Pruning By Explaining Revisited: Optimizing Attribution Methods to Prune CNNs and Transformers
von: Hatefi, Sayed Mohammad Vakilzadeh, et al.
Veröffentlicht: (2024)

SAE-V: Interpreting Multimodal Models for Enhanced Alignment
von: Lou, Hantao, et al.
Veröffentlicht: (2025)

LieSolver: A PDE-constrained solver for IBVPs using Lie symmetries
von: Klausen, René P., et al.
Veröffentlicht: (2025)

Reaching Beyond the Mode: RL for Distributional Reasoning in Language Models
von: Puri, Isha, et al.
Veröffentlicht: (2026)

Model Science: getting serious about verification, explanation and control of AI systems
von: Biecek, Przemyslaw, et al.
Veröffentlicht: (2025)

Thinking About Thinking: SAGE-nano's Inverse Reasoning for Self-Aware Language Models
von: Jha, Basab, et al.
Veröffentlicht: (2025)

PINNfluence: Influence Functions for Physics-Informed Neural Networks
von: Naujoks, Jonas R., et al.
Veröffentlicht: (2024)

Does Transformer Interpretability Transfer to RNNs?
von: Paulo, Gonçalo, et al.
Veröffentlicht: (2024)

Leveraging Influence Functions for Resampling Data in Physics-Informed Neural Networks
von: Naujoks, Jonas R., et al.
Veröffentlicht: (2025)

LLMCheckup: Conversational Examination of Large Language Models via Interpretability Tools and Self-Explanations
von: Wang, Qianli, et al.
Veröffentlicht: (2024)

Lightweight Safety Classification Using Pruned Language Models
von: Sawtell, Mason, et al.
Veröffentlicht: (2024)

CoSy: Evaluating Textual Explanations of Neurons
von: Kopf, Laura, et al.
Veröffentlicht: (2024)

On the Robustness of Reward Models for Language Model Alignment
von: Hong, Jiwoo, et al.
Veröffentlicht: (2025)

Geometry of Decision Making in Language Models
von: Joshi, Abhinav, et al.
Veröffentlicht: (2025)