Buchumschlag

Forecasting Rare Language Model Behaviors

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Jones, Erik, Tong, Meg, Mu, Jesse, Mahfoud, Mohammed, Leike, Jan, Grosse, Roger, Kaplan, Jared, Fithian, William, Perez, Ethan, Sharma, Mrinank
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Towards Safeguarding LLM Fine-tuning APIs against Cipher Attacks
von: Youstra, Jack, et al.
Veröffentlicht: (2025)

Rapid Response: Mitigating LLM Jailbreaks with a Few Examples
von: Peng, Alwin, et al.
Veröffentlicht: (2024)

DELM: a Python toolkit for Data Extraction with Language Models
von: Fithian, Eric, et al.
Veröffentlicht: (2025)

A Flexible Defense Against the Winner's Curse
von: Zrnic, Tijana, et al.
Veröffentlicht: (2024)

Locally Simultaneous Inference
von: Zrnic, Tijana, et al.
Veröffentlicht: (2022)

Asymptotically Optimal Knockoff Statistics via the Masked Likelihood Ratio
von: Spector, Asher, et al.
Veröffentlicht: (2022)

Controlling the false discovery rate under a non-parametric graphical dependence model
von: Nguyen, Drew T., et al.
Veröffentlicht: (2025)

Jailbreak Defense in a Narrow Domain: Limitations of Existing Methods and a New Transcript-Classifier Approach
von: Wang, Tony T., et al.
Veröffentlicht: (2024)

Excess Description Length of Learning Generalizable Predictors
von: Donoway, Elizabeth, et al.
Veröffentlicht: (2026)

Explaining Neural Scaling Laws
von: Bahri, Yasaman, et al.
Veröffentlicht: (2021)

Reasoning Models Don't Always Say What They Think
von: Chen, Yanda, et al.
Veröffentlicht: (2025)

Best-of-N Jailbreaking
von: Hughes, John, et al.
Veröffentlicht: (2024)

Eliciting Harmful Capabilities by Fine-Tuning On Safeguarded Outputs
von: Kaunismaa, Jackson, et al.
Veröffentlicht: (2026)

Improving knockoffs with conditional calibration
von: Luo, Yixiang, et al.
Veröffentlicht: (2022)

Estimating the False Discovery Rate of Variable Selection
von: Luo, Yixiang, et al.
Veröffentlicht: (2024)

Unidade da pessoa segundo Edith Stein: contribuições à educação para a nutrição
von: Miguel Mahfoud
Veröffentlicht: (2008)

Subjetividade, crise e educação ambiental
von: Miguel Mahfoud
Veröffentlicht: (2009)

Towards Understanding Sycophancy in Language Models
von: Sharma, Mrinank, et al.
Veröffentlicht: (2023)

Magnetic Effect on Thermocapillary Flow of Silicon Melt in an Annulus
von: Ali Bendjaghlouli, et al.
Veröffentlicht: (2024)

A frequentist local false discovery rate
von: Xiang, Daniel, et al.
Veröffentlicht: (2025)

PoisonBench: Assessing Large Language Model Vulnerability to Data Poisoning
von: Fu, Tingchen, et al.
Veröffentlicht: (2024)

Gaussian Rank Verification
von: Goldwasser, Jeremy, et al.
Veröffentlicht: (2025)

Unsupervised Elicitation of Language Models
von: Wen, Jiaxin, et al.
Veröffentlicht: (2025)

Mass-Producing Failures of Multimodal Systems with Language Models
von: Tong, Shengbang, et al.
Veröffentlicht: (2023)

KARMA: Karma-Aligned Reward Model Adaptation
von: Scott, Jared, et al.
Veröffentlicht: (2026)

Who's in Charge? Disempowerment Patterns in Real-World LLM Usage
von: Sharma, Mrinank, et al.
Veröffentlicht: (2026)

Incorporating Unlabelled Data into Bayesian Neural Networks
von: Sharma, Mrinank, et al.
Veröffentlicht: (2023)

Constitutional Classifiers++: Efficient Production-Grade Defenses against Universal Jailbreaks
von: Cunningham, Hoagy, et al.
Veröffentlicht: (2026)

Domain-Specific Shorthand for Generation Based on Context-Free Grammar
von: Kanyuka, Andriy, et al.
Veröffentlicht: (2024)

Brachymetatarsia as an Early Clue to Turner Syndrome
von: Hounaida Mahfoud, et al.
Veröffentlicht: (2026)

Limit-Computable Grains of Truth for Arbitrary Computable Extensive-Form (Un)Known Games
von: Wyeth, Cole, et al.
Veröffentlicht: (2025)

Smooth Models for Certain Fibered Partially Hyperbolic Systems
von: Doucette, Meg
Veröffentlicht: (2022)

Chain-of-Thought Hijacking
von: Zhao, Jianli, et al.
Veröffentlicht: (2025)

Failures to Find Transferable Image Jailbreaks Between Vision-Language Models
von: Schaeffer, Rylan, et al.
Veröffentlicht: (2024)

Sabotage Evaluations for Frontier Models
von: Benton, Joe, et al.
Veröffentlicht: (2024)

Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training
von: Hubinger, Evan, et al.
Veröffentlicht: (2024)

On the convergence of the Born series for Coulomb potentials
von: Sussman, Ethan, et al.
Veröffentlicht: (2025)

Probabilistic Inference in Language Models via Twisted Sequential Monte Carlo
von: Zhao, Stephen, et al.
Veröffentlicht: (2024)

Reducing the Probability of Undesirable Outputs in Language Models Using Probabilistic Inference
von: Zhao, Stephen, et al.
Veröffentlicht: (2025)

Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming
von: Sharma, Mrinank, et al.
Veröffentlicht: (2025)