Buchumschlag

Learning Safety Constraints for Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chen, Xin, As, Yarden, Krause, Andreas
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Safe Exploration Using Bayesian World Models and Log-Barrier Optimization
von: As, Yarden, et al.
Veröffentlicht: (2024)

Learning Safety Constraints from Demonstrations with Unknown Rewards
von: Lindner, David, et al.
Veröffentlicht: (2023)

Transductive Active Learning: Theory and Applications
von: Hübotter, Jonas, et al.
Veröffentlicht: (2024)

Symmetry-Guided Memory Augmentation for Efficient Locomotion Learning
von: Bao, Kaixi, et al.
Veröffentlicht: (2025)

Active Few-Shot Fine-Tuning
von: Hübotter, Jonas, et al.
Veröffentlicht: (2024)

Sampling-Based Safe Reinforcement Learning
von: Vignola, Luca, et al.
Veröffentlicht: (2026)

Safe Exploration via Policy Priors
von: Wendl, Manuel, et al.
Veröffentlicht: (2026)

Probabilistic Constraint for Safety-Critical Reinforcement Learning
von: Chen, Weiqin, et al.
Veröffentlicht: (2023)

ActSafe: Active Exploration with Safety Constraints for Reinforcement Learning
von: As, Yarden, et al.
Veröffentlicht: (2024)

Distributionally Robust Model-based Reinforcement Learning with Large State Spaces
von: Ramesh, Shyam Sundhar, et al.
Veröffentlicht: (2023)

Adaptable Cardiovascular Disease Risk Prediction from Heterogeneous Data using Large Language Models
von: Lübeck, Frederike, et al.
Veröffentlicht: (2025)

Alignment and Safety in Large Language Models: Safety Mechanisms, Training Paradigms, and Emerging Challenges
von: Lu, Haoran, et al.
Veröffentlicht: (2025)

Distributed Risk-Sensitive Safety Filters for Uncertain Discrete-Time Systems
von: Lederer, Armin, et al.
Veröffentlicht: (2025)

Uncertainty-Aware Robotic World Model Makes Offline Model-Based Reinforcement Learning Work on Real Robots
von: Li, Chenhao, et al.
Veröffentlicht: (2025)

Conservative Distributional Reinforcement Learning with Safety Constraints
von: Zhang, Hengrui, et al.
Veröffentlicht: (2022)

Q-resafe: Assessing Safety Risks and Quantization-aware Safety Patching for Quantized Large Language Models
von: Chen, Kejia, et al.
Veröffentlicht: (2025)

Safe Reinforcement Learning with Learned Non-Markovian Safety Constraints
von: Low, Siow Meng, et al.
Veröffentlicht: (2024)

Test-Time Tuned Language Models Enable End-to-end De Novo Molecular Structure Generation from MS/MS Spectra
von: Mismetti, Laura, et al.
Veröffentlicht: (2025)

Defining and Evaluating Physical Safety for Large Language Models
von: Tang, Yung-Chen, et al.
Veröffentlicht: (2024)

Can Large Language Models Reason and Optimize Under Constraints?
von: Bernier, Fabien, et al.
Veröffentlicht: (2026)

Evolutionary Discovery of Reinforcement Learning Algorithms via Large Language Models
von: Sygkounas, Alkis, et al.
Veröffentlicht: (2026)

Diffusion Models for Offline Multi-agent Reinforcement Learning with Safety Constraints
von: Huang, Jianuo
Veröffentlicht: (2024)

Improving Large Language Model Safety with Contrastive Representation Learning
von: Simko, Samuel, et al.
Veröffentlicht: (2025)

Adversarial Reinforcement Learning for Large Language Model Agent Safety
von: Wang, Zizhao, et al.
Veröffentlicht: (2025)

Probabilistic Artificial Intelligence
von: Krause, Andreas, et al.
Veröffentlicht: (2025)

Modular Machine Learning: An Indispensable Path towards New-Generation Large Language Models
von: Wang, Xin, et al.
Veröffentlicht: (2025)

SafeSci: Safety Evaluation of Large Language Models in Science Domains and Beyond
von: Zhu, Xiangyang, et al.
Veröffentlicht: (2026)

Joint Continual Learning of Local Language Models and Cloud Offloading Decisions with Budget Constraints
von: Chen, Evan, et al.
Veröffentlicht: (2026)

Semi-Supervised Learning for Large Language Models Safety and Content Moderation
von: Dinuta, Eduard Stefan, et al.
Veröffentlicht: (2025)

When Does Non-Uniform Replay Matter in Reinforcement Learning?
von: Korniak, Michal, et al.
Veröffentlicht: (2026)

Efficiently Learning at Test-Time: Active Fine-Tuning of LLMs
von: Hübotter, Jonas, et al.
Veröffentlicht: (2024)

Markov Constraint as Large Language Model Surrogate
von: Bonlarron, Alexandre, et al.
Veröffentlicht: (2024)

Generating Streamlining Constraints with Large Language Models
von: Voboril, Florentina, et al.
Veröffentlicht: (2024)

On Predictability of Reinforcement Learning Dynamics for Large Language Models
von: Cai, Yuchen, et al.
Veröffentlicht: (2025)

NeuRel-Attack: Neuron Relearning for Safety Disalignment in Large Language Models
von: Zhou, Yi, et al.
Veröffentlicht: (2025)

Dynamic Adversarial Reinforcement Learning for Robust Multimodal Large Language Models
von: Bao, Yicheng, et al.
Veröffentlicht: (2026)

Robotic World Model: A Neural Network Simulator for Robust Policy Optimization in Robotics
von: Li, Chenhao, et al.
Veröffentlicht: (2025)

Fundamental Safety-Capability Trade-offs in Fine-tuning Large Language Models
von: Chen, Pin-Yu, et al.
Veröffentlicht: (2025)

Local Mixtures of Experts: Essentially Free Test-Time Training via Model Merging
von: Bertolissi, Ryo, et al.
Veröffentlicht: (2025)

Learning on the Job: Test-Time Curricula for Targeted Reinforcement Learning
von: Hübotter, Jonas, et al.
Veröffentlicht: (2025)