Buchumschlag

Rule Based Rewards for Language Model Safety

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Mu, Tong, Helyar, Alec, Heidecke, Johannes, Achiam, Joshua, Vallone, Andrea, Kivlichan, Ian, Lin, Molly, Beutel, Alex, Schulman, John, Weng, Lilian
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Diverse and Effective Red Teaming with Auto-generated Rewards and Multi-step Reinforcement Learning
von: Beutel, Alex, et al.
Veröffentlicht: (2024)

From Hard Refusals to Safe-Completions: Toward Output-Centric Safety Training
von: Yuan, Yuan, et al.
Veröffentlicht: (2025)

The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions
von: Wallace, Eric, et al.
Veröffentlicht: (2024)

Deliberative Alignment: Reasoning Enables Safer Language Models
von: Guan, Melody Y., et al.
Veröffentlicht: (2024)

HealthBench: Evaluating Large Language Models Towards Improved Human Health
von: Arora, Rahul K., et al.
Veröffentlicht: (2025)

First-Person Fairness in Chatbots
von: Eloundou, Tyna, et al.
Veröffentlicht: (2024)

Data-adaptive Safety Rules for Training Reward Models
von: Li, Xiaomin, et al.
Veröffentlicht: (2025)

Whose Ground Truth? Accounting for Individual and Collective Identities Underlying Dataset Annotation
von: Denton, Remi, et al.
Veröffentlicht: (2021)

SWE-Lancer: Can Frontier LLMs Earn $1 Million from Real-World Freelance Software Engineering?
von: Miserendino, Samuel, et al.
Veröffentlicht: (2025)

Global risk management: The role of collective cognition in response to COVID‐19. By LouiseComfort, Mary LeeRhodes, New York and London: Routledge. 2022. pp. 291. ISBN: 978‐1‐032‐18182‐0
von: Paul Schulman
Veröffentlicht: (2024)

A Look Inside Those Shiny Covers: Mass-Market Children's Books.
von: Schulman, Janet
Veröffentlicht: (1982)

A suggested reorganization of the Florida marine fisheries laws
von: Schulman, M.
Veröffentlicht: (1953)

Non-secular polariton leakage and dark-state protection in hybrid plasmonic cavities
von: Vallone, Marco
Veröffentlicht: (2026)

Quantum open system description of a hybrid plasmonic cavity
von: Vallone, Marco
Veröffentlicht: (2025)

Pequeños grandes clientes. La publicidad de sucedáneos de la leche materna en dos revistas pediátricas de Argentina entre 1977 y 2006
von: Fernando Vallone
Veröffentlicht: (2009)

Safety, Relative Tightness and the Probabilistic Frame Rule
von: Jereb, Janez Ignacij, et al.
Veröffentlicht: (2025)

Scalable inference of spatial regions and temporal signatures from time series
von: Weng, Jiayu, et al.
Veröffentlicht: (2026)

Learning Reward for Robot Skills Using Large Language Models via Self-Alignment
von: Zeng, Yuwei, et al.
Veröffentlicht: (2024)

Genesis del modernismo : Marti, Najera, Silva, Casal / por Iv n A. Schulman
von: Schulman, Iván A
Veröffentlicht: (1968)

Génesis del modernismo ; Martí, N jera, Silva, Casal / Iv n A. Schulman
von: Schulman, Iván A

Attention-Based Reward Shaping for Sparse and Delayed Rewards
von: Holmes, Ian, et al.
Veröffentlicht: (2025)

CONTROL PENAL Y CUESTIÓN SOCIAL: APUNTES PARA EL ANÁLISIS
von: Silvana Emilce Vallone
Veröffentlicht: (2009)

Institute of marine science of the university of Miami / Robert L. Beutel
von: Beutel Robert, L
Veröffentlicht: (1963)

Detecting Adversarial Fine-tuning with Auditing Agents
von: Egler, Sarah, et al.
Veröffentlicht: (2025)

Language-as-Dimension Theory (LDT): A New Scientific Framework for Intelligence, Meaning, and Reality Formation
von: Woodard, Bethany, et al.
Veröffentlicht: (2025)

Learning Rules from Rewards
von: Puebla, Guillermo, et al.
Veröffentlicht: (2022)

SafeGRPO: Self-Rewarded Multimodal Safety Alignment via Rule-Governed Policy Optimization
von: Rong, Xuankun, et al.
Veröffentlicht: (2025)

Stress-Testing Model Specs Reveals Character Differences among Language Models
von: Zhang, Jifan, et al.
Veröffentlicht: (2025)

In-situ measurements in steep bedrock permafrost in an Alpine environment on the Matterhorn Hörnligrat, Zermatt Switzerland; 2008-2020
von: Weber, Samuel, et al.
Veröffentlicht: (2021)

In-situ measurements in steep bedrock permafrost in an Alpine environment on the Matterhorn Hörnligrat, Zermatt Switzerland: 2008-2024
von: Weber, Samuel, et al.
Veröffentlicht: (2025)

Meet Our Editorial Board–Engineering in Life Sciences. An Interview With Sascha Beutel Leibniz University Hannover, Hannover, Germany
von: Paul Trevorrow, et al.
Veröffentlicht: (2025)

Acceptance‐Based or Teaching‐Based Rule Consequentialism?
von: Andrea Sauchelli
Veröffentlicht: (2024)

A mechanistic model to assess the effectiveness of test-trace-isolate-and-quarantine under limited capacities
von: Heidecke, Julian, et al.
Veröffentlicht: (2022)

A Rule-Compliance Path Planner for Lane-Merge Scenarios Based on Responsibility-Sensitive Safety
von: Lin, Pengfei, et al.
Veröffentlicht: (2024)

GAVEL: Towards Rule-Based Safety Through Activation Monitoring
von: Rozenfeld, Shir, et al.
Veröffentlicht: (2026)

Reward Models Are Secretly Value Functions: Temporally Coherent Reward Modeling
von: Nikulkov, Alex
Veröffentlicht: (2026)

GRAM: A Generative Foundation Reward Model for Reward Generalization
von: Wang, Chenglong, et al.
Veröffentlicht: (2025)

GenARM: Reward Guided Generation with Autoregressive Reward Model for Test-time Alignment
von: Xu, Yuancheng, et al.
Veröffentlicht: (2024)

AutoRule: Reasoning Chain-of-thought Extracted Rule-based Rewards Improve Preference Learning
von: Wang, Tevin, et al.
Veröffentlicht: (2025)

When Context Flips, Safety Breaks: Diagnosing Brittle Safety in Aligned Language Models
von: Choi, Dasol, et al.
Veröffentlicht: (2026)