Buchumschlag

RVPO: Risk-Sensitive Alignment via Variance Regularization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Montero, Ivan, Jurczyk, Tomasz, Dhingra, Bhuwan
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Hierarchical Multi-Label Classification of Online Vaccine Concerns
von: Zhu, Chloe Qinyu, et al.
Veröffentlicht: (2024)

InData: Towards Secure Multi-Step, Tool-Based Data Analysis
von: K, Karthikeyan, et al.
Veröffentlicht: (2025)

A Platform for Investigating Public Health Content with Efficient Concern Classification
von: Li, Christopher, et al.
Veröffentlicht: (2025)

Cite Pretrain: Retrieval-Free Knowledge Attribution for Large Language Models
von: Huang, Yukun, et al.
Veröffentlicht: (2025)

When Greedy Wins: Emergent Exploitation Bias in Meta-Bandit LLM Training
von: Chen, Sanxing, et al.
Veröffentlicht: (2025)

Calibrating Long-form Generations from Large Language Models
von: Huang, Yukun, et al.
Veröffentlicht: (2024)

ReCaLL: Membership Inference via Relative Conditional Log-Likelihoods
von: Xie, Roy, et al.
Veröffentlicht: (2024)

GenEOL: Harnessing the Generative Power of LLMs for Training-Free Sentence Embeddings
von: Thirukovalluru, Raghuveer, et al.
Veröffentlicht: (2024)

Self-Supervised Learning for Neural Topic Models with Variance-Invariance-Covariance Regularization
von: Xu, Weiran, et al.
Veröffentlicht: (2025)

Vision2Code: A Multi-Domain Benchmark for Evaluating Image-to-Code Generation
von: Periasami, Ajay Vikram, et al.
Veröffentlicht: (2026)

Temporal Alignment of Time Sensitive Facts with Activation Engineering
von: Govindan, Sanjay, et al.
Veröffentlicht: (2025)

Frictive Policy Optimization for LLMs: Epistemic Intervention, Risk-Sensitive Control, and Reflective Alignment
von: Pustejovsky, James, et al.
Veröffentlicht: (2026)

Atomic Self-Consistency for Better Long Form Generations
von: Thirukovalluru, Raghuveer, et al.
Veröffentlicht: (2024)

ChatShop: Interactive Information Seeking with Language Agents
von: Chen, Sanxing, et al.
Veröffentlicht: (2024)

LABO: Towards Learning Optimal Label Regularization via Bi-level Optimization
von: Lu, Peng, et al.
Veröffentlicht: (2023)

Variance Control via Weight Rescaling in LLM Pre-training
von: Owen, Louis, et al.
Veröffentlicht: (2025)

Capability-Oriented Training Induced Alignment Risk
von: Zhou, Yujun, et al.
Veröffentlicht: (2026)

Real-time Factuality Assessment from Adversarial Feedback
von: Chen, Sanxing, et al.
Veröffentlicht: (2024)

Correcting the Mythos of KL-Regularization: Direct Alignment without Overoptimization via Chi-Squared Preference Optimization
von: Huang, Audrey, et al.
Veröffentlicht: (2024)

Anatomical Heterogeneity in Transformer Language Models
von: Wietrzykowski, Tomasz
Veröffentlicht: (2026)

Aligning language models with human preferences
von: Korbak, Tomasz
Veröffentlicht: (2024)

Safety Alignment as Continual Learning: Mitigating the Alignment Tax via Orthogonal Gradient Projection
von: Sun, Guanglong, et al.
Veröffentlicht: (2026)

Reducing Credit Assignment Variance via Counterfactual Reasoning Paths
von: Ding, Fei, et al.
Veröffentlicht: (2026)

Parameter Efficient Fine-tuning via Explained Variance Adaptation
von: Paischer, Fabian, et al.
Veröffentlicht: (2024)

VCRL: Variance-based Curriculum Reinforcement Learning for Large Language Models
von: Jiang, Guochao, et al.
Veröffentlicht: (2025)

Efficient Alignment of Large Language Models via Data Sampling
von: Khera, Amrit, et al.
Veröffentlicht: (2024)

MetaRM: Shifted Distributions Alignment via Meta-Learning
von: Dou, Shihan, et al.
Veröffentlicht: (2024)

PluralLLM: Pluralistic Alignment in LLMs via Federated Learning
von: Srewa, Mahmoud, et al.
Veröffentlicht: (2025)

DVAO: Dynamic Variance-adaptive Advantage Optimization for Multi-reward Reinforcement Learning
von: Jiang, Guochao, et al.
Veröffentlicht: (2026)

Adaptive Prompting for Continual Relation Extraction: A Within-Task Variance Perspective
von: Le, Minh, et al.
Veröffentlicht: (2024)

Improving Variable-Length Generation in Diffusion Language Models via Length Regularization
von: Cheng, Zicong, et al.
Veröffentlicht: (2026)

Principled Data Selection for Alignment: The Hidden Risks of Difficult Examples
von: Gao, Chengqian, et al.
Veröffentlicht: (2025)

Detecting Token-Level Hallucinations Using Variance Signals: A Reference-Free Approach
von: Kumar, Keshav
Veröffentlicht: (2025)

Optimizing Chain-of-Thought Reasoners via Gradient Variance Minimization in Rejection Sampling and RL
von: Yao, Jiarui, et al.
Veröffentlicht: (2025)

Extracting Polymer Nanocomposite Samples from Full-Length Documents
von: Khalighinejad, Ghazal, et al.
Veröffentlicht: (2024)

On the Role of Preference Variance in Preference Optimization
von: Guo, Jiacheng, et al.
Veröffentlicht: (2025)

Coding Agents are Effective Long-Context Processors
von: Cao, Weili, et al.
Veröffentlicht: (2026)

Adversarial Math Word Problem Generation
von: Xie, Roy, et al.
Veröffentlicht: (2024)

To Trust or Not to Trust? Enhancing Large Language Models' Situated Faithfulness to External Contexts
von: Huang, Yukun, et al.
Veröffentlicht: (2024)

Raccoon: Prompt Extraction Benchmark of LLM-Integrated Applications
von: Wang, Junlin, et al.
Veröffentlicht: (2024)