Buchumschlag

Verbalizing LLMs' assumptions to explain and control sycophancy

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Cheng, Myra, Sieh, Isabel, Zope, Humishka, Yu, Sunny, Ibrahim, Lujain, Arora, Aryaman, Moore, Jared, Ong, Desmond, Jurafsky, Dan, Yang, Diyi
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language Artificial Intelligence Computers and Society
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ELEPHANT: Measuring and understanding social sycophancy in LLMs
von: Cheng, Myra, et al.
Veröffentlicht: (2025)

HumT DumT: Measuring and controlling human-like language in LLMs
von: Cheng, Myra, et al.
Veröffentlicht: (2025)

CausalGym: Benchmarking causal interpretability methods on linguistic tasks
von: Arora, Aryaman, et al.
Veröffentlicht: (2024)

Future of Work with AI Agents: Auditing Automation and Augmentation Potential across the U.S. Workforce
von: Shao, Yijia, et al.
Veröffentlicht: (2025)

Thinking beyond the anthropomorphic paradigm benefits LLM research
von: Ibrahim, Lujain, et al.
Veröffentlicht: (2025)

Accommodation and Epistemic Vigilance: A Pragmatic Account of Why LLMs Fail to Challenge Harmful Beliefs
von: Cheng, Myra, et al.
Veröffentlicht: (2026)

Generation Space Size: Understanding and Calibrating Open-Endedness of LLM Generations
von: Yu, Sunny, et al.
Veröffentlicht: (2025)

Bayesian scaling laws for in-context learning
von: Arora, Aryaman, et al.
Veröffentlicht: (2024)

Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence
von: Cheng, Myra, et al.
Veröffentlicht: (2025)

AnthroScore: A Computational Linguistic Measure of Anthropomorphism
von: Cheng, Myra, et al.
Veröffentlicht: (2024)

Sycophantic AI makes human interaction feel more effortful and less satisfying over time
von: Ibrahim, Lujain, et al.
Veröffentlicht: (2026)

Mechanistic evaluation of Transformers and state space models
von: Arora, Aryaman, et al.
Veröffentlicht: (2025)

Cognitive offloading and the speedup illusion in human-AI interaction
von: Yu, Sunny, et al.
Veröffentlicht: (2026)

The efficiency-gain illusion: People underestimate the rate of AI use and overestimate its benefits on simple tasks
von: Yu, Sunny, et al.
Veröffentlicht: (2026)

Predicting positive transfer for improved low-resource speech recognition using acoustic pseudo-tokens
von: San, Nay, et al.
Veröffentlicht: (2024)

AxBench: Steering LLMs? Even Simple Baselines Outperform Sparse Autoencoders
von: Wu, Zhengxuan, et al.
Veröffentlicht: (2025)

NLP Systems That Can't Tell Use from Mention Censor Counterspeech, but Teaching the Distinction Helps
von: Gligoric, Kristina, et al.
Veröffentlicht: (2024)

Are Large Language Models Consistent over Value-laden Questions?
von: Moore, Jared, et al.
Veröffentlicht: (2024)

Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers
von: Moore, Jared, et al.
Veröffentlicht: (2025)

PreFT: Prefill-only finetuning for efficient inference
von: Lanpouthakoun, Andrew, et al.
Veröffentlicht: (2026)

ReFT: Representation Finetuning for Language Models
von: Wu, Zhengxuan, et al.
Veröffentlicht: (2024)

Grounding Gaps in Language Model Generations
von: Shaikh, Omar, et al.
Veröffentlicht: (2023)

Offloading Score: Measuring AI Reliance Through Counterfactual Workflows
von: Padmakumar, Vishakh, et al.
Veröffentlicht: (2026)

Simple synthetic data reduces sycophancy in large language models
von: Wei, Jerry, et al.
Veröffentlicht: (2023)

Characterizing and modeling harms from interactions with design patterns in AI interfaces
von: Ibrahim, Lujain, et al.
Veröffentlicht: (2024)

CGELBank Annotation Manual v1.2
von: Reynolds, Brett, et al.
Veröffentlicht: (2023)

The Social Sycophancy Scale: A psychometrically validated measure of sycophancy
von: Rehani, Jean, et al.
Veröffentlicht: (2026)

Training language models to be warm and empathetic makes them less reliable and more sycophantic
von: Ibrahim, Lujain, et al.
Veröffentlicht: (2025)

Ask don't tell: Reducing sycophancy in large language models
von: Dubois, Magda, et al.
Veröffentlicht: (2026)

Beyond Tokens: Concept-Level Training Objectives for LLMs
von: Iyer, Laya, et al.
Veröffentlicht: (2026)

Humans overrely on overconfident language models, across languages
von: Rathi, Neil, et al.
Veröffentlicht: (2025)

Learning Concepts, Not Tokens: Self-Supervised Semantic Alignment for Language Models
von: Zhang, Christine, et al.
Veröffentlicht: (2026)

A layer-wise analysis of Mandarin and English suprasegmentals in SSL speech models
von: de la Fuente, Antón, et al.
Veröffentlicht: (2024)

The Dynamics of Delusion: Modeling Bidirectional False Belief Amplification in Human-Chatbot Dialogue
von: Mehta, Ashish, et al.
Veröffentlicht: (2026)

How Well Can LLMs Negotiate? NegotiationArena Platform and Analysis
von: Bianchi, Federico, et al.
Veröffentlicht: (2024)

On Verbalized Confidence Scores for LLMs
von: Yang, Daniel, et al.
Veröffentlicht: (2024)

Othering and low status framing of immigrant cuisines in US restaurant reviews and large language models
von: Luo, Yiwei, et al.
Veröffentlicht: (2023)

SumTablets: A Transliteration Dataset of Sumerian Tablets
von: Simmons, Cole, et al.
Veröffentlicht: (2026)

ADAG: Automatically Describing Attribution Graphs
von: Arora, Aryaman, et al.
Veröffentlicht: (2026)

Attention to Non-Adopters
von: Zhou, Kaitlyn, et al.
Veröffentlicht: (2025)