Buchumschlag

VISA: Value Injection via Shielded Adaptation for Personalized LLM Alignment

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chen, Jiawei, Yang, Tianzhuo, Zhang, Guoxi, Ji, Jiaming, Yang, Yaodong, Dai, Juntao
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Game-Theoretic Negotiation Framework for Cross-Cultural Consensus in LLMs
von: Zhang, Guoxi, et al.
Veröffentlicht: (2025)

Stable Reasoning, Unstable Responses: Mitigating LLM Deception via Stability Asymmetry
von: Zhang, Guoxi, et al.
Veröffentlicht: (2026)

SafeMCP: Proactive Power Regulation for LLM Agent Defense via Environment-Grounded Look-Ahead Reasoning
von: Wang, Lichao, et al.
Veröffentlicht: (2026)

MiraBench: Evaluating Action-Conditioned Reliability in Robotic World Models
von: Yang, Tianzhuo, et al.
Veröffentlicht: (2026)

Sequence to Sequence Reward Modeling: Improving RLHF by Language Feedback
von: Zhou, Jiayi, et al.
Veröffentlicht: (2024)

Mitigating Deceptive Alignment via Self-Monitoring
von: Ji, Jiaming, et al.
Veröffentlicht: (2025)

Aligner: Efficient Alignment by Learning to Correct
von: Ji, Jiaming, et al.
Veröffentlicht: (2024)

Stream Aligner: Efficient Sentence-Level Alignment via Distribution Induction
von: Lou, Hantao, et al.
Veröffentlicht: (2025)

Align Once, Benefit Multilingually: Enforcing Multilingual Consistency for LLM Safety Alignment
von: Bu, Yuyan, et al.
Veröffentlicht: (2026)

SafeVLA: Towards Safety Alignment of Vision-Language-Action Model via Constrained Learning
von: Zhang, Borong, et al.
Veröffentlicht: (2025)

SafeSora: Towards Safety Alignment of Text2Video Generation via a Human Preference Dataset
von: Dai, Josef, et al.
Veröffentlicht: (2024)

Language Models Resist Alignment: Evidence From Data Compression
von: Ji, Jiaming, et al.
Veröffentlicht: (2024)

SAE-V: Interpreting Multimodal Models for Enhanced Alignment
von: Lou, Hantao, et al.
Veröffentlicht: (2025)

Mitigating Reward Over-Optimization in RLHF via Behavior-Supported Regularization
von: Dai, Juntao, et al.
Veröffentlicht: (2025)

Benchmarking Multi-National Value Alignment for Large Language Models
von: Shi, Weijie, et al.
Veröffentlicht: (2025)

Safe Reinforcement Learning using Finite-Horizon Gradient-based Estimation
von: Dai, Juntao, et al.
Veröffentlicht: (2024)

SPADE-Bench: Evaluating Spontaneous Strategic Deception in Agents via Plan-Action Divergence
von: Bu, Yuyan, et al.
Veröffentlicht: (2026)

PKU-SafeRLHF: Towards Multi-Level Safety Alignment for LLMs with Human Preference
von: Ji, Jiaming, et al.
Veröffentlicht: (2024)

InterMT: Multi-Turn Interleaved Preference Alignment with Human Feedback
von: Chen, Boyuan, et al.
Veröffentlicht: (2025)

End-to-End Neuro-Symbolic Reinforcement Learning with Textual Explanations
von: Luo, Lirui, et al.
Veröffentlicht: (2024)

ProgressGym: Alignment with a Millennium of Moral Progress
von: Qiu, Tianyi, et al.
Veröffentlicht: (2024)

Safety-Gymnasium: A Unified Safe Reinforcement Learning Benchmark
von: Ji, Jiaming, et al.
Veröffentlicht: (2023)

When Slower Isn't Truer: Inverse Scaling Law of Truthfulness in Multimodal Reasoning
von: Fang, Sitong, et al.
Veröffentlicht: (2025)

Communication-Efficient Desire Alignment for Embodied Agent-Human Adaptation
von: Wang, Yuanfei, et al.
Veröffentlicht: (2025)

SafeEditor: Unified MLLM for Efficient Post-hoc T2I Safety Editing
von: Zhang, Ruiyang, et al.
Veröffentlicht: (2025)

SafeMT: Multi-turn Safety for Multimodal Language Models
von: Zhu, Han, et al.
Veröffentlicht: (2025)

The Task Shield: Enforcing Task Alignment to Defend Against Indirect Prompt Injection in LLM Agents
von: Jia, Feiran, et al.
Veröffentlicht: (2024)

Structured Personality Control and Adaptation for LLM Agents
von: Wang, Jinpeng, et al.
Veröffentlicht: (2026)

MVR: Multi-view Video Reward Shaping for Reinforcement Learning
von: Luo, Lirui, et al.
Veröffentlicht: (2026)

Debate with Images: Detecting Deceptive Behaviors in Multimodal Large Language Models
von: Fang, Sitong, et al.
Veröffentlicht: (2025)

SafeDreamer: Safe Reinforcement Learning with World Models
von: Huang, Weidong, et al.
Veröffentlicht: (2023)

Value Alignment Tax: Measuring Value Trade-offs in LLM Alignment
von: Chen, Jiajun, et al.
Veröffentlicht: (2026)

Provable Defense Framework for LLM Jailbreaks via Noise-Augumented Alignment
von: Cheng, Zehua, et al.
Veröffentlicht: (2026)

Heterogeneous Value Alignment Evaluation for Large Language Models
von: Zhang, Zhaowei, et al.
Veröffentlicht: (2023)

Constrained Language Model Policy Optimization via Risk-aware Stepwise Alignment
von: Zhang, Lijun, et al.
Veröffentlicht: (2025)

AI Alignment: A Comprehensive Survey
von: Ji, Jiaming, et al.
Veröffentlicht: (2023)

An Evaluation of Cultural Value Alignment in LLM
von: Sukiennik, Nicholas, et al.
Veröffentlicht: (2025)

Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections
von: Yang, Xianglin, et al.
Veröffentlicht: (2026)

DVMap: Fine-Grained Pluralistic Value Alignment via High-Consensus Demographic-Value Mapping
von: Zhu, Pengyun, et al.
Veröffentlicht: (2026)

Persona-judge: Personalized Alignment of Large Language Models via Token-level Self-judgment
von: Zhang, Xiaotian, et al.
Veröffentlicht: (2025)