Buchumschlag

Moral Alignment for LLM Agents

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tennant, Elizaveta, Hailes, Stephen, Musolesi, Mirco
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence Computers and Society
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Hybrid Approaches for Moral Value Alignment in AI Agents: a Manifesto
von: Tennant, Elizaveta, et al.
Veröffentlicht: (2023)

Dynamics of Moral Behavior in Heterogeneous Populations of Learning Agents
von: Tennant, Elizaveta, et al.
Veröffentlicht: (2024)

Opponent Shaping in LLM Agents
von: Segura, Marta Emili Garcia, et al.
Veröffentlicht: (2025)

Copyright in Generative Deep Learning
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2021)

Creativity and Machine Learning: A Survey
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2021)

DeepCreativity: Measuring Creativity with Deep Learning Techniques
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2022)

Partial Information Decomposition for Data Interpretability and Feature Selection
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Information-Theoretic State Variable Selection for Reinforcement Learning
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Graph Reinforcement Learning for Combinatorial Optimization: A Survey and Unifying Perspective
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2024)

Large Language Models are Effective Priors for Causal Graph Discovery
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2024)

Tree Search in DAG Space with Model-based Reinforcement Learning for Causal Discovery
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2023)

Thinking Outside the (Gray) Box: A Context-Based Score for Assessing Value and Originality in Neural Text Generation
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2025)

Training Foundation Models as Data Compression: On Information, Model Weights and Copyright Law
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2024)

Graph Neural Modeling of Network Flows
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2022)

Trust-based Consensus in Multi-Agent Reinforcement Learning Systems
von: Fung, Ho Long, et al.
Veröffentlicht: (2022)

(Ir)rationality in AI: State of the Art, Research Challenges and Open Questions
von: Macmillan-Scott, Olivia, et al.
Veröffentlicht: (2023)

On the Creativity of AI Agents
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2026)

Creative Beam Search: LLM-as-a-Judge For Improving Response Generation
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2024)

Do Agents Dream of Electric Sheep?: Improving Generalization in Reinforcement Learning through Generative Learning
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2024)

Emergent Semantic Role Understanding in Language Models
von: Griffiths, Carla, et al.
Veröffentlicht: (2026)

DiffSampling: Enhancing Diversity and Accuracy in Neural Text Generation
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2025)

On the Creativity of Large Language Models
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2023)

Investigating the Impact of Direct Punishment on the Emergence of Cooperation in Multi-Agent Reinforcement Learning Systems
von: Dasgupta, Nayana, et al.
Veröffentlicht: (2023)

Mutual Information Preserving Neural Network Pruning
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Heterogeneous Knowledge for Augmented Modular Reinforcement Learning
von: Wolf, Lorenz, et al.
Veröffentlicht: (2023)

Reinforcement Learning for Generative AI: State of the Art, Opportunities and Open Research Challenges
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2023)

Reward Model Overoptimisation in Iterated RLHF
von: Wolf, Lorenz, et al.
Veröffentlicht: (2025)

Feature Selection for Network Intrusion Detection
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

A Generalized Information Bottleneck Theory of Deep Learning
von: Westphal, Charles, et al.
Veröffentlicht: (2025)

Acting for the Right Reasons: Creating Reason-Sensitive Artificial Moral Agents
von: Baum, Kevin, et al.
Veröffentlicht: (2024)

LLM Safety Alignment is Divergence Estimation in Disguise
von: Haldar, Rajdeep, et al.
Veröffentlicht: (2025)

Does Cross-Cultural Alignment Change the Commonsense Morality of Language Models?
von: Jinnai, Yuu
Veröffentlicht: (2024)

CoMIX: A Multi-agent Reinforcement Learning Training Architecture for Efficient Decentralized Coordination and Independent Decision-Making
von: Minelli, Giovanni, et al.
Veröffentlicht: (2023)

ProgressGym: Alignment with a Millennium of Moral Progress
von: Qiu, Tianyi, et al.
Veröffentlicht: (2024)

Building Interpretable Models for Moral Decision-Making
von: Goel, Mayank, et al.
Veröffentlicht: (2026)

Alignment as Jurisprudence
von: Caputo, Nicholas
Veröffentlicht: (2026)

Inducing Human-like Biases in Moral Reasoning Language Models
von: Karpov, Artem, et al.
Veröffentlicht: (2024)

Distributional Open-Ended Evaluation of LLM Cultural Value Alignment Based on Value Codebook
von: Lee, Jaehyeok, et al.
Veröffentlicht: (2026)

Integrating Reason-Based Moral Decision-Making in the Reinforcement Learning Architecture
von: Dargasz, Lisa
Veröffentlicht: (2025)

Are There Exceptions to Goodhart's Law? On the Moral Justification of Fairness-Aware Machine Learning
von: Weerts, Hilde, et al.
Veröffentlicht: (2022)