Buchumschlag

Uncertainty-Aware Reward Discounting for Mitigating Reward Hacking

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Singha, Disha
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence I.2.6; I.2.0
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Intervention Complexity as a Canonical Reward and a Measure of Intelligence
von: McCane, Brendan
Veröffentlicht: (2026)

Interpretability-Guided Bi-objective Optimization: Aligning Accuracy and Explainability
von: Fouladi, Kasra, et al.
Veröffentlicht: (2026)

An Axiomatic Approach to General Intelligence: SANC(E3) -- Self-organizing Active Network of Concepts with Energy E3
von: Kwon, Daesuk, et al.
Veröffentlicht: (2026)

Graceful task adaptation with a bi-hemispheric RL agent
von: Nicholas, Grant, et al.
Veröffentlicht: (2024)

Simulation-Driven Railway Delay Prediction: An Imitation Learning Approach
von: Elliker, Clément, et al.
Veröffentlicht: (2025)

Generating Causal Explanations of Vehicular Agent Behavioural Interactions with Learnt Reward Profiles
von: Howard, Rhys, et al.
Veröffentlicht: (2025)

The ARC of Progress towards AGI: A Living Survey of Abstraction and Reasoning
von: Vahdati, Sahar, et al.
Veröffentlicht: (2026)

Deep Reinforcement Learning for Adverse Garage Scenario Generation
von: Li, Kai
Veröffentlicht: (2024)

Reward Machines for Deep RL in Noisy and Uncertain Environments
von: Li, Andrew C., et al.
Veröffentlicht: (2024)

LaPro-DTA: Latent Dual-View Drug Representations and Salient Protein Feature Extraction for Generalizable Drug--Target Affinity Prediction
von: Dun, Zihan, et al.
Veröffentlicht: (2026)

Matryoshka Policy Gradient for Entropy-Regularized RL: Convergence and Global Optimality
von: Ged, François, et al.
Veröffentlicht: (2023)

ARCTraj: A Dataset and Benchmark of Human Reasoning Trajectories for Abstract Problem Solving
von: Kim, Sejin, et al.
Veröffentlicht: (2025)

Position Paper: Bounded Alignment: What (Not) To Expect From AGI Agents
von: Minai, Ali A.
Veröffentlicht: (2025)

Beyond Mimicry: Preference Coherence in LLMs
von: Mikaelson, Luhan, et al.
Veröffentlicht: (2025)

Learning Can Converge Stably to the Wrong Belief under Latent Reliability
von: Zhang, Zhipeng, et al.
Veröffentlicht: (2026)

Feel-Good Thompson Sampling for Contextual Bandits: a Markov Chain Monte Carlo Showdown
von: Anand, Emile, et al.
Veröffentlicht: (2025)

Implicit Counterfactual Data Augmentation for Robust Learning
von: Zhou, Xiaoling, et al.
Veröffentlicht: (2023)

PRPO: Aligning Process Reward with Outcome Reward in Policy Optimization
von: Ding, Ruiyi, et al.
Veröffentlicht: (2026)

Perturbation Dose Responses in Recursive LLM Loops: Raw Switching, Stochastic Floors, and Persistent Escape under Append, Replace, and Dialog Updates
von: Kaplanski, Pawel
Veröffentlicht: (2026)

Incentives or Ontology? A Structural Rebuttal to OpenAI's Hallucination Thesis
von: Ackermann, Richard, et al.
Veröffentlicht: (2025)

Behavioural vs. Representational Systematicity in End-to-End Models: An Opinionated Survey
von: Vegner, Ivan, et al.
Veröffentlicht: (2025)

The Drill-Down and Fabricate Test (DDFT): A Protocol for Measuring Epistemic Robustness in Language Models
von: Baxi, Rahul
Veröffentlicht: (2025)

Choosing DAG Models Using Markov and Minimal Edge Count in the Absence of Ground Truth
von: Ramsey, Joseph D., et al.
Veröffentlicht: (2024)

STAR : Bridging Statistical and Agentic Reasoning for Large Model Performance Prediction
von: Wang, Xiaoxiao, et al.
Veröffentlicht: (2026)

FF-INT8: Efficient Forward-Forward DNN Training on Edge Devices with INT8 Precision
von: Ma, Jingxiao, et al.
Veröffentlicht: (2025)

Augmenting deep neural networks with symbolic knowledge: Towards trustworthy and interpretable AI for education
von: Hooshyar, Danial, et al.
Veröffentlicht: (2023)

Study Design and Demystification of Physics Informed Neural Networks for Power Flow Simulation
von: Leyli-abadi, Milad, et al.
Veröffentlicht: (2025)

Fusing Rewards and Preferences in Reinforcement Learning
von: Khorasani, Sadegh, et al.
Veröffentlicht: (2025)

Prompt Readiness Levels (PRL): a maturity scale and scoring framework for production grade prompt assets
von: Guinard, Sebastien
Veröffentlicht: (2026)

On the Generalization Gap in LLM Planning: Tests and Verifier-Reward RL
von: Belcamino, Valerio, et al.
Veröffentlicht: (2026)

Improving Fairness with Ensemble Combination: Margin-Dependent Bounds
von: Bian, Yijun
Veröffentlicht: (2023)

On Privacy Leakage in Tabular Diffusion Models: Influential Factors, Attacker Knowledge, and Metrics
von: Shafieinejad, Masoumeh, et al.
Veröffentlicht: (2026)

Position: Mechanistic Interpretability Must Disclose Identification Assumptions for Causal Claims
von: Lin, Zezheng, et al.
Veröffentlicht: (2026)

Revisiting Parameter-Based Knowledge Editing in Large Language Models: Theoretical Limits and Empirical Evidence
von: Ren, Wanying, et al.
Veröffentlicht: (2026)

The Parameters of Educability
von: Valiant, Leslie G.
Veröffentlicht: (2024)

Training Language Models to Win Debates with Self-Play Improves Judge Accuracy
von: Arnesen, Samuel, et al.
Veröffentlicht: (2024)

Reasoning Beyond the Obvious: Evaluating Divergent and Convergent Thinking in LLMs for Financial Scenarios
von: Bok, Zhuang Qiang, et al.
Veröffentlicht: (2025)

Tensor Generalized Approximate Message Passing
von: Li, Yinchuan, et al.
Veröffentlicht: (2025)

Causal Dimensionality of Transformer Representations: Measurement, Scaling, and Layer Structure
von: Sarkar, Nilesh, et al.
Veröffentlicht: (2026)

The Efficiency Attenuation Phenomenon: A Computational Challenge to the Language of Thought Hypothesis
von: Zhang, Di
Veröffentlicht: (2026)