Buchumschlag

Training LLMs for Honesty via Confessions

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Joglekar, Manas, Chen, Jeremy, Wu, Gabriel, Yosinski, Jason, Wang, Jasmine, Barak, Boaz, Glaese, Amelia
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Deliberative Alignment: Reasoning Enables Safer Language Models
von: Guan, Melody Y., et al.
Veröffentlicht: (2024)

Automatic Stability and Recovery for Neural Network Training
von: Or, Barak
Veröffentlicht: (2026)

Preference Learning with Lie Detectors can Induce Honesty or Evasion
von: Cundy, Chris, et al.
Veröffentlicht: (2025)

Unlearners Can Lie: Evaluating and Improving Honesty in LLM Unlearning
von: Gu, Renjie, et al.
Veröffentlicht: (2026)

The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes
von: Taufeeque, Mohammad, et al.
Veröffentlicht: (2026)

Gradient-Free Training of Quantized Neural Networks
von: Cohen, Noa, et al.
Veröffentlicht: (2024)

Mix Data or Merge Models? Balancing the Helpfulness, Honesty, and Harmlessness of Large Language Model via Model Merging
von: Yang, Jinluan, et al.
Veröffentlicht: (2025)

CarSpeedNet: Learning-Based Speed Estimation from Accelerometer-Only Inertial Sensing
von: Or, Barak
Veröffentlicht: (2024)

Kalman-Inspired Runtime Stability and Recovery in Hybrid Reasoning Systems
von: Or, Barak
Veröffentlicht: (2026)

Honesty to Subterfuge: In-Context Reinforcement Learning Can Make Honest Models Reward Hack
von: McKee-Reid, Leo, et al.
Veröffentlicht: (2024)

Distinguishing the Knowable from the Unknowable with Language Models
von: Ahdritz, Gustaf, et al.
Veröffentlicht: (2024)

MESSI: A Multi-Elevation Semantic Segmentation Image Dataset of an Urban Environment
von: Pinkovich, Barak, et al.
Veröffentlicht: (2025)

Think Before You Lie: How Reasoning Leads to Honesty
von: Yuan, Ann, et al.
Veröffentlicht: (2026)

Generative Neural Reparameterization for Differentiable PDE-constrained Optimization
von: Joglekar, Archis S.
Veröffentlicht: (2024)

How do Large Language Models Navigate Conflicts between Honesty and Helpfulness?
von: Liu, Ryan, et al.
Veröffentlicht: (2024)

GAC: Stabilizing Asynchronous RL Training for LLMs via Gradient Alignment Control
von: Xu, Haofeng, et al.
Veröffentlicht: (2026)

Used Car Salesbots? Honesty and Credulity of LLMs as Bargaining Agents under Partial Information
von: Miceli-Barone, Antonio Valerio, et al.
Veröffentlicht: (2026)

TimeMaster: Training Time-Series Multimodal LLMs to Reason via Reinforcement Learning
von: Zhang, Junru, et al.
Veröffentlicht: (2025)

Sub-Scaling Laws: On the Role of Data Density and Training Strategies in LLMs
von: Chen, Zhengyu, et al.
Veröffentlicht: (2025)

RxnNano:Training Compact LLMs for Chemical Reaction and Retrosynthesis Prediction via Hierarchical Curriculum Learning
von: Li, Ran, et al.
Veröffentlicht: (2026)

The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems
von: Ren, Richard, et al.
Veröffentlicht: (2025)

Training Long-Context LLMs Efficiently via Chunk-wise Optimization
von: Li, Wenhao, et al.
Veröffentlicht: (2025)

CoLA: Compute-Efficient Pre-Training of LLMs via Low-Rank Activation
von: Liu, Ziyue, et al.
Veröffentlicht: (2025)

Tool Zero: Training Tool-Augmented LLMs via Pure RL from Scratch
von: Zeng, Yirong, et al.
Veröffentlicht: (2025)

Effective Sample Size and Generalization Bounds for Temporal Networks
von: Gahtan, Barak, et al.
Veröffentlicht: (2025)

Multi-Value Alignment for LLMs via Value Decorrelation and Extrapolation
von: Xu, Hefei, et al.
Veröffentlicht: (2025)

Knowledge Integration Strategies in Autonomous Vehicle Prediction and Planning: A Comprehensive Survey
von: Manas, Kumar, et al.
Veröffentlicht: (2025)

DAQ: Density-Aware Post-Training Weight-Only Quantization For LLMs
von: Luo, Yingsong, et al.
Veröffentlicht: (2024)

EntroPIC: Towards Stable Long-Term Training of LLMs via Entropy Stabilization with Proportional-Integral Control
von: Yang, Kai, et al.
Veröffentlicht: (2025)

Test-Time Training on Graphs with Large Language Models (LLMs)
von: Zhang, Jiaxin, et al.
Veröffentlicht: (2024)

Imbalanced Gradients in RL Post-Training of Multi-Task LLMs
von: Wu, Runzhe, et al.
Veröffentlicht: (2025)

DiFFPO: Training Diffusion LLMs to Reason Fast and Furious via Reinforcement Learning
von: Zhao, Hanyang, et al.
Veröffentlicht: (2025)

Achieving binary weight and activation for LLMs using Post-Training Quantization
von: Song, Siqing, et al.
Veröffentlicht: (2025)

Efficient Representations are Controllable Representations
von: Ye, Charles, et al.
Veröffentlicht: (2026)

Fairy2i: Training Complex LLMs from Real LLMs with All Parameters in $\{\pm 1, \pm i\}$
von: Wang, Feiyu, et al.
Veröffentlicht: (2025)

Thoth: Mid-Training Bridges LLMs to Time Series Understanding
von: Lin, Jiafeng, et al.
Veröffentlicht: (2026)

Scalable Power Sampling: Unlocking Efficient, Training-Free Reasoning for LLMs via Distribution Sharpening
von: Ji, Xiaotong, et al.
Veröffentlicht: (2026)

Fira: Can We Achieve Full-rank Training of LLMs Under Low-rank Constraint?
von: Chen, Xi, et al.
Veröffentlicht: (2024)

Removing Sandbagging in LLMs by Training with Weak Supervision
von: Ryd, Emil, et al.
Veröffentlicht: (2026)

A Theory of Training Profit-Optimal LLMs
von: Hao, Sophie, et al.
Veröffentlicht: (2026)