Buchumschlag

Challenges in Mechanistically Interpreting Model Representations

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Golechha, Satvik, Dao, James
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Progress Measures for Grokking on Real-world Tasks
von: Golechha, Satvik
Veröffentlicht: (2024)

Training Neural Networks for Modularity aids Interpretability
von: Golechha, Satvik, et al.
Veröffentlicht: (2024)

Among Us: A Sandbox for Measuring and Detecting Agentic Deception
von: Golechha, Satvik, et al.
Veröffentlicht: (2025)

NICE: To Optimize In-Context Examples or Not?
von: Srivastava, Pragya, et al.
Veröffentlicht: (2024)

Building Better Deception Probes Using Targeted Instruction Pairs
von: Natarajan, Vikram, et al.
Veröffentlicht: (2026)

Studying Cross-cluster Modularity in Neural Networks
von: Golechha, Satvik, et al.
Veröffentlicht: (2025)

ABBEL: LLM Agents Acting through Belief Bottlenecks Expressed in Language
von: Lidayan, Aly, et al.
Veröffentlicht: (2025)

Who's the Evil Twin? Differential Auditing for Undesired Behavior
von: Balappanawar, Ishwar, et al.
Veröffentlicht: (2025)

Logic Sketch Prompting (LSP): A Deterministic and Interpretable Prompting Method
von: Tripathi, Satvik
Veröffentlicht: (2025)

Mechanistic Interpretability of Brain-to-Speech Models Across Speech Modes
von: Maghsoudi, Maryam, et al.
Veröffentlicht: (2026)

reward-lens: A Mechanistic Interpretability Library for Reward Models
von: Nadaf, Mohammed Suhail B
Veröffentlicht: (2026)

A Survey on Mechanistic Interpretability for Multi-Modal Foundation Models
von: Lin, Zihao, et al.
Veröffentlicht: (2025)

MINAR: Mechanistic Interpretability for Neural Algorithmic Reasoning
von: He, Jesse, et al.
Veröffentlicht: (2026)

Using Mechanistic Interpretability to Craft Adversarial Attacks against Large Language Models
von: Winninger, Thomas, et al.
Veröffentlicht: (2025)

nnterp: A Standardized Interface for Mechanistic Interpretability of Transformers
von: Dumas, Clément
Veröffentlicht: (2025)

Faithful and Stable Neuron Explanations for Trustworthy Mechanistic Interpretability
von: Yan, Ge, et al.
Veröffentlicht: (2025)

Mechanistic Interpretability for Transformer-based Time Series Classification
von: Kalnāre, Matīss, et al.
Veröffentlicht: (2025)

Mechanistic Interpretability of GPT-like Models on Summarization Tasks
von: Mishra, Anurag
Veröffentlicht: (2025)

Binary Autoencoder for Mechanistic Interpretability of Large Language Models
von: Cho, Hakaze, et al.
Veröffentlicht: (2025)

Mechanistic Interpretability of LoRA-Adapted Language Models for Nuclear Reactor Safety Applications
von: Lee, Yoon Pyo
Veröffentlicht: (2025)

Towards Mechanistic Interpretability of Graph Transformers via Attention Graphs
von: El, Batu, et al.
Veröffentlicht: (2025)

MIB: A Mechanistic Interpretability Benchmark
von: Mueller, Aaron, et al.
Veröffentlicht: (2025)

Superposition Is Not Necessary: A Mechanistic Interpretability Analysis of Transformer Representations for Time Series Forecasting
von: Yıldırım, Alper
Veröffentlicht: (2026)

Reasoning Circuits in Language Models: A Mechanistic Interpretation of Syllogistic Inference
von: Kim, Geonhee, et al.
Veröffentlicht: (2024)

Towards Unified Attribution in Explainable AI, Data-Centric AI, and Mechanistic Interpretability
von: Zhang, Shichang, et al.
Veröffentlicht: (2025)

Mechanistic Interpretability with Sparse Autoencoder Neural Operators
von: Tolooshams, Bahareh, et al.
Veröffentlicht: (2025)

The Quest for the Right Mediator: Surveying Mechanistic Interpretability Through the Lens of Causal Mediation Analysis
von: Mueller, Aaron, et al.
Veröffentlicht: (2024)

DLM-Scope: Mechanistic Interpretability of Diffusion Language Models via Sparse Autoencoders
von: Wang, Xu, et al.
Veröffentlicht: (2026)

Mechanistic Interpretability with SAEs: Probing Religion, Violence, and Geography in Large Language Models
von: Simbeck, Katharina, et al.
Veröffentlicht: (2025)

HyperDAS: Towards Automating Mechanistic Interpretability with Hypernetworks
von: Sun, Jiuding, et al.
Veröffentlicht: (2025)

Mechanistic Interpretability as Statistical Estimation: A Variance Analysis
von: Méloux, Maxime, et al.
Veröffentlicht: (2025)

Everything, Everywhere, All at Once: Is Mechanistic Interpretability Identifiable?
von: Méloux, Maxime, et al.
Veröffentlicht: (2025)

A Unified Theory of Sparse Dictionary Learning in Mechanistic Interpretability: Piecewise Biconvexity and Spurious Minima
von: Tang, Yiming, et al.
Veröffentlicht: (2025)

TinySQL: A Progressive Text-to-SQL Dataset for Mechanistic Interpretability Research
von: Harrasse, Abir, et al.
Veröffentlicht: (2025)

Mamba: Linear-Time Sequence Modeling with Selective State Spaces
von: Gu, Albert, et al.
Veröffentlicht: (2023)

Position: Mechanistic Interpretability Should Prioritize Feature Consistency in SAEs
von: Song, Xiangchen, et al.
Veröffentlicht: (2025)

Localized Definitions and Distributed Reasoning: A Proof-of-Concept Mechanistic Interpretability Study via Activation Patching
von: Bahador, Nooshin
Veröffentlicht: (2025)

Interpretable Representation Learning for Additive Rule Ensembles
von: Behzadimanesh, Shahrzad, et al.
Veröffentlicht: (2025)

MemER: Scaling Up Memory for Robot Control via Experience Retrieval
von: Sridhar, Ajay, et al.
Veröffentlicht: (2025)

Mechanistic Data Attribution: Tracing the Training Origins of Interpretable LLM Units
von: Chen, Jianhui, et al.
Veröffentlicht: (2026)