Image de couverture de livre

Preference Instability in Reward Models: Detection and Mitigation via Sparse Autoencoders

Fuente: arXiv

Enregistré dans:

Détails bibliographiques
Auteurs principaux:	Liu, Shunchang, Chen, Xin, Urcelay, Belen Martin, Croce, Francesco
Format:	Preprint
Publié:	2026
Sujets:	Machine Learning
Accès en ligne:	Acceder al recurso
Tags:	Ajouter un tag Pas de tags, Soyez le premier à ajouter un tag!

Documents similaires

Interpretable Reward Model via Sparse Autoencoder
par: Zhang, Shuyi, et autres
Publié: (2025)

Feature Starvation as Geometric Instability in Sparse Autoencoders
par: Chaudhry, Faris, et autres
Publié: (2026)

Toward Identifiable Sparse Autoencoders
par: Nelson, Walter, et autres
Publié: (2026)

Sparse Autoencoders are Capable LLM Jailbreak Mitigators
par: Assogba, Yannick, et autres
Publié: (2026)

Information-Theoretic Reward Modeling for Stable RLHF: Detecting and Mitigating Reward Hacking
par: Miao, Yuchun, et autres
Publié: (2025)

Steering LVLMs via Sparse Autoencoder for Hallucination Mitigation
par: Hua, Zhenglin, et autres
Publié: (2025)

Low-Rank Adapting Models for Sparse Autoencoders
par: Chen, Matthew, et autres
Publié: (2025)

Multimodal Variational Autoencoder for Low-cost Cardiac Hemodynamics Instability Detection
par: Suvon, Mohammod N. I., et autres
Publié: (2024)

Beyond Labels: Information-Efficient Human-in-the-Loop Learning using Ranking and Selection Queries
par: Martín-Urcelay, Belén, et autres
Publié: (2026)

Steering Language Model Refusal with Sparse Autoencoders
par: O'Brien, Kyle, et autres
Publié: (2024)

Exploring and Addressing Reward Confusion in Offline Preference Learning
par: Chen, Xin, et autres
Publié: (2024)

Attribution-Guided Distillation of Matryoshka Sparse Autoencoders
par: Martin-Linares, Cristina P., et autres
Publié: (2025)

Ensembling Sparse Autoencoders
par: Gadgil, Soham, et autres
Publié: (2025)

Preference-Guided Learning for Sparse-Reward Multi-Agent Reinforcement Learning
par: Bui, The Viet, et autres
Publié: (2025)

Do Sparse Autoencoders Identify Reasoning Features in Language Models?
par: Ma, George, et autres
Publié: (2026)

Adversarial Reward Auditing for Active Detection and Mitigation of Reward Hacking
par: Beigi, Mohammad, et autres
Publié: (2026)

Model Unlearning via Sparse Autoencoder Subspace Guided Projections
par: Wang, Xu, et autres
Publié: (2025)

Generalizing Reward Modeling for Out-of-Distribution Preference Learning
par: Jia, Chen
Publié: (2024)

Training Superior Sparse Autoencoders for Instruct Models
par: Li, Jiaming, et autres
Publié: (2025)

Analysis of Variational Sparse Autoencoders
par: Baker, Zachary, et autres
Publié: (2025)

Route Sparse Autoencoder to Interpret Large Language Models
par: Shi, Wei, et autres
Publié: (2025)

Sparse Autoencoders are Topic Models
par: Girrbach, Leander, et autres
Publié: (2025)

InfoRM: Mitigating Reward Hacking in RLHF via Information-Theoretic Reward Modeling
par: Miao, Yuchun, et autres
Publié: (2024)

Selective Induction Heads: How Transformers Select Causal Structures In Context
par: D'Angelo, Francesco, et autres
Publié: (2025)

Reward Model Ensembles Help Mitigate Overoptimization
par: Coste, Thomas, et autres
Publié: (2023)

Sparse Autoencoders, Again?
par: Lu, Yin, et autres
Publié: (2025)

PARM: Multi-Objective Test-Time Alignment via Preference-Aware Autoregressive Reward Model
par: Lin, Baijiong, et autres
Publié: (2025)

SPO: Multi-Dimensional Preference Sequential Alignment With Implicit Reward Modeling
par: Lou, Xingzhou, et autres
Publié: (2024)

PILAF: Optimal Human Preference Sampling for Reward Modeling
par: Feng, Yunzhen, et autres
Publié: (2025)

Explicit Preference Optimization: No Need for an Implicit Reward Model
par: Hu, Xiangkun, et autres
Publié: (2025)

Causal Reward Adjustment: Mitigating Reward Hacking in External Reasoning via Backdoor Correction
par: Song, Ruike, et autres
Publié: (2025)

Preference-Based Self-Distillation: Beyond KL Matching via Reward Regularization
par: Yu, Xin, et autres
Publié: (2026)

Helping or Herding? Reward Model Ensembles Mitigate but do not Eliminate Reward Hacking
par: Eisenstein, Jacob, et autres
Publié: (2023)

Interpretable Preferences via Multi-Objective Reward Modeling and Mixture-of-Experts
par: Wang, Haoxiang, et autres
Publié: (2024)

Improving Robustness In Sparse Autoencoders via Masked Regularization
par: Narayanaswamy, Vivek, et autres
Publié: (2026)

Decomposing The Dark Matter of Sparse Autoencoders
par: Engels, Joshua, et autres
Publié: (2024)

Transcoders Beat Sparse Autoencoders for Interpretability
par: Paulo, Gonçalo, et autres
Publié: (2025)

Disentangling Dense Embeddings with Sparse Autoencoders
par: O'Neill, Charles, et autres
Publié: (2024)

Evaluating Sparse Autoencoders for Monosemantic Representation
par: Fereidouni, Moghis, et autres
Publié: (2025)

Step-Level Sparse Autoencoder for Reasoning Process Interpretation
par: Yang, Xuan, et autres
Publié: (2026)