Copertina

Inoculation Prompting: Instructing LLMs to misbehave at train-time improves test-time alignment

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Wichers, Nevan, Ebtekar, Aram, Azarbal, Ariana, Gillioz, Victor, Ye, Christine, Ryd, Emil, Rathi, Neil, Sleight, Henry, Mallen, Alex, Roger, Fabien, Marks, Samuel
Natura:	Preprint
Pubblicazione:	2025
Soggetti:	Machine Learning
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Recontextualization Mitigates Specification Gaming without Modifying the Specification
di: Azarbal, Ariana, et al.
Pubblicazione: (2025)

Model Spec Midtraining: Improving How Alignment Training Generalizes
di: Li, Chloe, et al.
Pubblicazione: (2026)

Gradient-Based Language Model Red Teaming
di: Wichers, Nevan, et al.
Pubblicazione: (2024)

Foundations of algorithmic thermodynamics
di: Ebtekar, Aram, et al.
Pubblicazione: (2023)

Golden Handcuffs make safer AI agents
di: Ebtekar, Aram, et al.
Pubblicazione: (2026)

Visualizing Neural Network Imagination
di: Wichers, Nevan, et al.
Pubblicazione: (2024)

Toward Universal Laws of Outlier Propagation
di: Ebtekar, Aram, et al.
Pubblicazione: (2025)

Fine Flood Forecasts: Incorporating local data into global models through fine-tuning
di: Ryd, Emil, et al.
Pubblicazione: (2025)

Inoculation Prompting: Eliciting traits from LLMs during training can suppress them at test-time
di: Tan, Daniel, et al.
Pubblicazione: (2025)

The momentum-space conformal bootstrap in 2d
di: Gillioz, Marc
Pubblicazione: (2025)

Dynamic Relation Inference via Verb Embeddings
di: Suissa, Omri, et al.
Pubblicazione: (2025)

Eliciting Secret Knowledge from Language Models
di: Cywiński, Bartosz, et al.
Pubblicazione: (2025)

Beyond Sparse Rewards: Enhancing Reinforcement Learning with Language Model Critique in Text Generation
di: Cao, Meng, et al.
Pubblicazione: (2024)

Fusion-Eval: Integrating Assistant Evaluators with LLMs
di: Shu, Lei, et al.
Pubblicazione: (2023)

Towards eliciting latent knowledge from LLMs with mechanistic interpretability
di: Cywiński, Bartosz, et al.
Pubblicazione: (2025)

All Code, No Thought: Current Language Models Struggle to Reason in Ciphered Language
di: Guo, Shiyuan, et al.
Pubblicazione: (2025)

Analysis of Parallel Boarding Methods in a Multi-Aisle Flying Wing Aircraft
di: Ryd, Emil, et al.
Pubblicazione: (2024)

Intensive language contact in the Caucasus
di: Wichers Schreur, Jesse
Pubblicazione: (2026)

Problems of Associations Accrediting Preparation Programs for School Media Professionals.
di: Wichers, Jean Elaine
Pubblicazione: (1982)

Heart of the Humanities Program
di: Wichers, Jean Elaine
Pubblicazione: (1976)

Removing Sandbagging in LLMs by Training with Weak Supervision
di: Ryd, Emil, et al.
Pubblicazione: (2026)

El ascenso de la economía del comportamiento: misbehaving, de Richard Thaler*
di: Cass R. Sunsteitf
Pubblicazione: (2019)

Shaping capabilities with token-level data filtering
di: Rathi, Neil, et al.
Pubblicazione: (2026)

A large synthetic dataset for machine learning applications in power transmission grids
di: Gillioz, Marc, et al.
Pubblicazione: (2024)

IPAdapter-Instruct: Resolving Ambiguity in Image-based Conditioning using Instruct Prompts
di: Rowles, Ciara, et al.
Pubblicazione: (2024)

Los bosques en 50 años : de los planes de ordenación a la silvicultura electrónica (Primera parte)
di: Mallén, Carlos
Pubblicazione: (2002)

Los bosques en 50 años : de la recolecta al cultivo, plantaciones comerciales y no comerciales (segunda parte)
di: Mallén, Carlos
Pubblicazione: (2002)

Real time anomalies detection on video
di: Poirier, Fabien
Pubblicazione: (2024)

PROTECT: Protein circadian time prediction using unsupervised learning
di: Ogholbake, Aram Ansary, et al.
Pubblicazione: (2025)

VIP: Vision Instructed Pre-training for Robotic Manipulation
di: Li, Zhuoling, et al.
Pubblicazione: (2024)

Prompt-aligned Gradient for Prompt Tuning
di: Zhu, Beier, et al.
Pubblicazione: (2022)

México en la evaluación de los bosques del mundo
di: Mallén Rivera, Carlos
Pubblicazione: (2003)

Desarrollo histórico del pensamiento político / Rubén Salazar Mallén
di: Salazar Mallén, Rubén

Conservar la biodiversidad, ¿mito o realidad? / Isabel Ruiz Mallén
di: Ruiz Mallén, Isabel

Año 2002 montañas, cumbres, leyes y religión
di: Mallén Rivera, Carlos
Pubblicazione: (2003)

El Hegel de Hegel y el Hegel de Marx / Rubén Salazar Mallén
di: Salazar Mallén, Rubén

La polémica chinosoviética y la revolución proletaria / Rubén Salazar Mallén
di: Salazar Mallén, Rubén
Pubblicazione: (1965)

La orientación inegable de la biotecnología : de las estacas a los organismos genéticamente transformados
di: Mallén Rivera, Carlos
Pubblicazione: (2002)

La orientación inegable de la biotecnología (De las estacas a los organismos genéticamente transformados (2a. parte)
di: Mallén Rivera, Carlos
Pubblicazione: (2002)

Virus computacionales : Un enfoque objetivo / Guillermo M. Mallen
di: Mallen, Guillermo M