Buchumschlag

Flattery, Fluff, and Fog: Diagnosing and Mitigating Idiosyncratic Biases in Preference Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Bharadwaj, Anirudh, Malaviya, Chaitanya, Joshi, Nitish, Yatskar, Mark
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

What if you said that differently?: How Explanation Formats Affect Human Feedback Efficacy and User Perception
von: Malaviya, Chaitanya, et al.
Veröffentlicht: (2023)

ResearchQA: Evaluating Scholarly Question Answering at Scale Across 75 Fields with Survey-Mined Questions and Rubrics
von: Yifei, Li S., et al.
Veröffentlicht: (2025)

Contextualized Evaluations: Judging Language Model Responses to Underspecified Queries
von: Malaviya, Chaitanya, et al.
Veröffentlicht: (2024)

ExpertQA: Expert-Curated Questions and Attributed Answers
von: Malaviya, Chaitanya, et al.
Veröffentlicht: (2023)

A Simple Joint Model for Improved Contextual Neural Lemmatization
von: Malaviya, Chaitanya, et al.
Veröffentlicht: (2019)

DOLOMITES: Domain-Specific Long-Form Methodical Tasks
von: Malaviya, Chaitanya, et al.
Veröffentlicht: (2024)

LLM-based Hierarchical Concept Decomposition for Interpretable Fine-Grained Image Classification
von: Qu, Renyi, et al.
Veröffentlicht: (2024)

Flattery in Motion: Benchmarking and Analyzing Sycophancy in Video-LLMs
von: Zhou, Wenrui, et al.
Veröffentlicht: (2025)

EvalAgent: Discovering Implicit Evaluation Criteria from the Web
von: Wadhwa, Manya, et al.
Veröffentlicht: (2025)

AssistantBench: Can Web Agents Solve Realistic and Time-Consuming Tasks?
von: Yoran, Ori, et al.
Veröffentlicht: (2024)

On Reference (In-)Determinacy in Natural Language Inference
von: Chen, Sihao, et al.
Veröffentlicht: (2025)

The Hidden Space of Safety: Understanding Preference-Tuned LLMs in Multilingual context
von: Verma, Nikhil, et al.
Veröffentlicht: (2025)

IndicGenBench: A Multilingual Benchmark to Evaluate Generation Capabilities of LLMs on Indic Languages
von: Singh, Harman, et al.
Veröffentlicht: (2024)

Calibrating Large Language Models with Sample Consistency
von: Lyu, Qing, et al.
Veröffentlicht: (2024)

The Biased Oracle: Assessing LLMs' Understandability and Empathy in Medical Diagnoses
von: Yao, Jianzhou, et al.
Veröffentlicht: (2025)

Mitigating Biases in Language Models via Bias Unlearning
von: Liu, Dianqing, et al.
Veröffentlicht: (2025)

This Paper Had the Smartest Reviewers -- Flattery Detection Utilising an Audio-Textual Transformer-Based Approach
von: Christ, Lukas, et al.
Veröffentlicht: (2024)

Studying and Mitigating Biases in Sign Language Understanding Models
von: Atwell, Katherine, et al.
Veröffentlicht: (2024)

EqualizeIR: Mitigating Linguistic Biases in Retrieval Models
von: Cheng, Jiali, et al.
Veröffentlicht: (2025)

Mitigating Social Biases in Language Models through Unlearning
von: Dige, Omkar, et al.
Veröffentlicht: (2024)

On the Risk of Misleading Reports: Diagnosing Textual Biases in Multimodal Clinical AI
von: Restrepo, David, et al.
Veröffentlicht: (2025)

Diagnosing and Mitigating Semantic Inconsistencies in Wikidata's Classification Hierarchy
von: Zhao, Shixiong, et al.
Veröffentlicht: (2025)

The Devil is in the Neurons: Interpreting and Mitigating Social Biases in Pre-trained Language Models
von: Liu, Yan, et al.
Veröffentlicht: (2024)

Mitigating Biases of Large Language Models in Stance Detection with Counterfactual Augmented Calibration
von: Li, Ang, et al.
Veröffentlicht: (2024)

Dynamic Clue Bottlenecks: Towards Interpretable-by-Design Visual Question Answering
von: Fu, Xingyu, et al.
Veröffentlicht: (2023)

INSURE-Dial: A Phase-Aware Conversational Dataset & Benchmark for Compliance Verification and Phase Detection
von: Kulkarni, Shubham, et al.
Veröffentlicht: (2026)

Hallucination Detection and Mitigation in Scientific Text Simplification using Ensemble Approaches: DS@GT at CLEF 2025 SimpleText
von: Marturi, Krishna Chaitanya, et al.
Veröffentlicht: (2025)

LLMs Are Prone to Fallacies in Causal Inference
von: Joshi, Nitish, et al.
Veröffentlicht: (2024)

Personas as a Way to Model Truthfulness in Language Models
von: Joshi, Nitish, et al.
Veröffentlicht: (2023)

Bias Vector: Mitigating Biases in Language Models with Task Arithmetic Approach
von: Shirafuji, Daiki, et al.
Veröffentlicht: (2024)

Cognitive Biases in Large Language Models: A Survey and Mitigation Experiments
von: Sumita, Yasuaki, et al.
Veröffentlicht: (2024)

The Comparative Trap: Pairwise Comparisons Amplifies Biased Preferences of LLM Evaluators
von: Jeong, Hawon, et al.
Veröffentlicht: (2024)

Interpretable-by-Design Text Understanding with Iteratively Generated Concept Bottleneck
von: Ludan, Josh Magnus, et al.
Veröffentlicht: (2023)

STU-PID: Steering Token Usage via PID Controller for Efficient Large Language Model Reasoning
von: Bharadwaj, Aryasomayajula Ram
Veröffentlicht: (2025)

Idiosyncratic Versus Normative Modeling of Atypical Speech Recognition: Dysarthric Case Studies
von: Raja, Vishnu, et al.
Veröffentlicht: (2025)

Diagnosing and Mitigating System Bias in Self-Rewarding RL
von: Tan, Chuyi, et al.
Veröffentlicht: (2025)

Intent-Aware Self-Correction for Mitigating Social Biases in Large Language Models
von: Anantaprayoon, Panatchakorn, et al.
Veröffentlicht: (2025)

Dynamic Template Selection for Output Token Generation Optimization: MLP-Based and Transformer Approaches
von: Yadavalli, Bharadwaj
Veröffentlicht: (2025)

Self-Blinding and Counterfactual Self-Simulation Mitigate Biases and Sycophancy in Large Language Models
von: Christian, Brian, et al.
Veröffentlicht: (2026)

Quantifying and Mitigating Unimodal Biases in Multimodal Large Language Models: A Causal Perspective
von: Chen, Meiqi, et al.
Veröffentlicht: (2024)