Copertina

AI Alignment through Reinforcement Learning from Human Feedback? Contradictions and Limitations

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Lindström, Adam Dahlgren, Methnani, Leila, Krause, Lea, Ericson, Petter, de Troya, Íñigo Martínez de Rituerto, Mollo, Dimitri Coelho, Dobbe, Roel
Natura:	Preprint
Pubblicazione:	2024
Soggetti:	Artificial Intelligence
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

AI Safety is Stuck in Technical Terms -- A System Safety Response to the International AI Safety Report
di: Dobbe, Roel
Pubblicazione: (2025)

From Data-Driven to Purpose-Driven Artificial Intelligence: Systems Thinking for Data-Analytic Automation of Patient Care
di: Anadria, Daniel, et al.
Pubblicazione: (2025)

Co-Constructing Alignment: A Participatory Approach to Situate AI Values
di: Arzberger, Anne, et al.
Pubblicazione: (2026)

AI-as-exploration: Navigating intelligence space
di: Mollo, Dimitri Coelho
Pubblicazione: (2024)

Concrete Problems in AI Safety, Revisited
di: Raji, Inioluwa Deborah, et al.
Pubblicazione: (2023)

The Vector Grounding Problem
di: Mollo, Dimitri Coelho, et al.
Pubblicazione: (2023)

Appendix 4. Output of Trinka Journal Finder: AI-Driven Journal Recommendation Based on Concept-Matching Algorithms
di: Methnani, Jabeur
Pubblicazione: (2025)

From Silos to Systems: Process-Oriented Hazard Analysis for AI Systems
di: Rismani, Shalaleh, et al.
Pubblicazione: (2024)

AI Mimicry and Human Dignity: Chatbot Use as a Violation of Self-Respect
di: van der Rijt, Jan-Willem, et al.
Pubblicazione: (2025)

FIGURA DE LOS FACILITADORES EN LOS CURSOS ONLINE MASIVOS Y ABIERTOS (COMA / MOOC): NUEVO ROL PROFESIONAL PARA LOS ENTORNOS EDUCATIVOS EN ABIERTO
di: Pedro María Marauri Martínez de Rituerto
Pubblicazione: (2014)

Understanding AI Trustworthiness: A Scoping Review of AIES & FAccT Articles
di: Mehrotra, Siddharth, et al.
Pubblicazione: (2025)

Vision-and-Language Training Helps Deploy Taxonomic Knowledge but Does Not Fundamentally Alter It
di: Qin, Yulu, et al.
Pubblicazione: (2025)

Uncoupled Dirac-Yang-Mills Pairs on Closed Riemannian Spin Manifolds
di: Lindström, Adam
Pubblicazione: (2026)

Harmonic Morphisms and p-Harmonic Functions on the Classical Compact Symmetric Spaces via the Cartan Embedding
di: Lindström, Adam
Pubblicazione: (2024)

NPO: Learning Alignment and Meta-Alignment through Structured Human Feedback
di: Gaikwad, Madhava, et al.
Pubblicazione: (2025)

The Alignment Ceiling: Objective Mismatch in Reinforcement Learning from Human Feedback
di: Lambert, Nathan, et al.
Pubblicazione: (2023)

Scalable Valuation of Human Feedback through Provably Robust Model Alignment
di: Fujisawa, Masahiro, et al.
Pubblicazione: (2025)

Big AI's Regulatory Capture: Mapping Industry Interference and Government Complicity
di: Birhane, Abeba, et al.
Pubblicazione: (2026)

Defense Priorities in the Open-Source AI Debate: A Preliminary Assessment
di: Dahlgren, Masao
Pubblicazione: (2024)

La mixteca : su cultura e historia prehisp nicas / Barbro Dahlgren
di: Dahlgren, Barbro
Pubblicazione: (1990)

The Tanzania Library Service: A Review of Recent Literature.
di: Dahlgren, Cecilia
Pubblicazione: (1994)

RLTHF: Targeted Human Feedback for LLM Alignment
di: Xu, Yifei, et al.
Pubblicazione: (2025)

Insectos de los remanentes de bosques secos andinos del norte de Ecuador
di: A. Troya
Pubblicazione: (2016)

Towards Stable and Personalised Profiles for Lexical Alignment in Spoken Human-Agent Dialogue
di: Schaaij, Keara, et al.
Pubblicazione: (2025)

Contradiction
Pubblicazione: (2022)

Contradictions
di: Xu, Yang, et al.
Pubblicazione: (2025)

PARL: A Unified Framework for Policy Alignment in Reinforcement Learning from Human Feedback
di: Chakraborty, Souradip, et al.
Pubblicazione: (2023)

Relaxivity of Gadobutrol and Gadoteric Acid in Cerebrospinal Fluid at 3 T
di: Sofia Behndig, et al.
Pubblicazione: (2026)

Spherically symmetric Dirac-Yang-Mills pairs on Riemannian manifolds
di: Lindström, Adam, et al.
Pubblicazione: (2026)

A Unifying Framework for Complex-Valued Eigenfunctions via The Cartan Embedding
di: Gudmundsson, Sigmundur, et al.
Pubblicazione: (2025)

The Contradictions of the Albanese Labor Government in Australia: The Promise and Limits of ‘Thin’ Labourism
di: Rob Manwaring, et al.
Pubblicazione: (2025)

Precision livestock tools to improve products and processes in broiler production: a review
di: MN Mollo
Pubblicazione: (2009)

Olhar o passado onde ele (não) está: Araújo Porto-Alegre e a história do Brasil a partir de Portugal
di: Helena Mollo
Pubblicazione: (2013)

Estudos sobre a escrita da história: alguns horizontes historiográficos
di: Helena Mollo
Pubblicazione: (2010)

O debate desenvolvimentista no Brasil e o papel da indústria: novos resultados de antigas lições
di: Maria de Lourdes Rollemberg Mollo
Pubblicazione: (2019)

Crédito, capital fictício, fragilidade financeira e crises: discussões teóricas, origens e formas de enfrentamento da crise atual
di: Maria de Lourdes Rollemberg Mollo
Pubblicazione: (2011)

O debate desenvolvimentista no Brasil: tomando partido
di: Maria de Lourdes Rollemberg Mollo
Pubblicazione: (2015)

Contextual Bilevel Reinforcement Learning for Incentive Alignment
di: Thoma, Vinzenz, et al.
Pubblicazione: (2024)

Generalization Limits of Reinforcement Learning Alignment
di: Shida, Haruhi, et al.
Pubblicazione: (2026)

Alignment Tampering: How Reinforcement Learning from Human Feedback Is Exploited to Optimize Misaligned Biases
di: Hahm, Dongyoon, et al.
Pubblicazione: (2026)