Prompting Techniques for Reducing Social Bias in LLMs through System 1 and System 2 Cognitive Processes

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kamruzzaman, Mahammed, Kim, Gene Louis
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

The Impact of Disability Disclosure on Fairness and Bias in LLM-Driven Candidate Selection
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2025)

Efficient Sentiment Analysis: A Resource-Aware Evaluation of Feature Extraction Techniques, Ensembling, and Deep Learning Models
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2023)

Exploring Changes in Nation Perception with Nationality-Assigned Personas in LLMs
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2024)

"Global is Good, Local is Bad?": Understanding Brand Bias in LLMs
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2024)

Investigating Subtler Biases in LLMs: Ageism, Beauty, Institutional, and Nationality Bias in Generative Models
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2023)

"A Woman is More Culturally Knowledgeable than A Man?": The Effect of Personas on Cultural Norm Interpretation in LLMs
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2024)

BanStereoSet: A Dataset to Measure Stereotypical Social Biases in LLMs for Bangla
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2024)

From Anger to Joy: How Nationality Personas Shape Emotion Attribution in Large Language Models
von: Kamruzzaman, Mahammed, et al.
Veröffentlicht: (2025)

Breaking the Benchmark: Revealing LLM Bias via Minimal Contextual Augmentation
von: Miandoab, Kaveh Eskandari, et al.
Veröffentlicht: (2025)

The Bias is in the Details: An Assessment of Cognitive Bias in LLMs
von: Knipper, R. Alexander, et al.
Veröffentlicht: (2025)

Position is Power: System Prompts as a Mechanism of Bias in Large Language Models (LLMs)
von: Neumann, Anna, et al.
Veröffentlicht: (2025)

Smoothie-Qwen: Post-Hoc Smoothing to Reduce Language Bias in Multilingual LLMs
von: Ji, SeungWon, et al.
Veröffentlicht: (2025)

Cognitive Bias in Decision-Making with LLMs
von: Echterhoff, Jessica, et al.
Veröffentlicht: (2024)

Are LLMs Rational Investors? A Study on Detecting and Reducing the Financial Bias in LLMs
von: Zhou, Yuhang, et al.
Veröffentlicht: (2024)

A Survey on Prompting Techniques in LLMs
von: Bhandari, Prabin
Veröffentlicht: (2023)

Adaptive Prompting: Ad-hoc Prompt Composition for Social Bias Detection
von: Spliethöver, Maximilian, et al.
Veröffentlicht: (2025)

The power of Prompts: Evaluating and Mitigating Gender Bias in MT with LLMs
von: Sant, Aleix, et al.
Veröffentlicht: (2024)

Perceived Political Bias in LLMs Reduces Persuasive Abilities
von: DiGiuseppe, Matthew, et al.
Veröffentlicht: (2026)

Cognitive Bias Detection Using Advanced Prompt Engineering
von: Lemieux, Frederic, et al.
Veröffentlicht: (2025)

BiasAlert: A Plug-and-play Tool for Social Bias Detection in LLMs
von: Fan, Zhiting, et al.
Veröffentlicht: (2024)

Mechanics of Bias and Reasoning: Interpreting the Impact of Chain-of-Thought Prompting on Gender Bias in LLMs
von: Pearman, Edie, et al.
Veröffentlicht: (2026)

Automated Item Neutralization for Non-Cognitive Scales: A Large Language Model Approach to Reducing Social-Desirability Bias
von: Wu, Sirui, et al.
Veröffentlicht: (2025)

Empathetic Cascading Networks: A Multi-Stage Prompting Technique for Reducing Social Biases in Large Language Models
von: Xin, Wangjiaxuan
Veröffentlicht: (2025)

Retcon -- a Prompt-Based Technique for Precise Control of LLMs in Conversations
von: Kogan, David, et al.
Veröffentlicht: (2026)

Event Detection with a Context-Aware Encoder and LoRA for Improved Performance on Long-Tailed Classes
von: Monsur, Abdullah Al, et al.
Veröffentlicht: (2026)

A Dual-Layered Evaluation of Geopolitical and Cultural Bias in LLMs
von: Kim, Sean, et al.
Veröffentlicht: (2025)

VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers
von: Kang, Bo, et al.
Veröffentlicht: (2026)

Ignore This Title and HackAPrompt: Exposing Systemic Vulnerabilities of LLMs through a Global Scale Prompt Hacking Competition
von: Schulhoff, Sander, et al.
Veröffentlicht: (2023)

Social Bias Evaluation for Large Language Models Requires Prompt Variations
von: Hida, Rem, et al.
Veröffentlicht: (2024)

Adapting LLMs for Efficient Context Processing through Soft Prompt Compression
von: Wang, Cangqing, et al.
Veröffentlicht: (2024)

Probing Social Identity Bias in Chinese LLMs with Gendered Pronouns and Social Groups
von: Liu, Geng, et al.
Veröffentlicht: (2025)

Can We Trust LLMs? Mitigate Overconfidence Bias in LLMs through Knowledge Transfer
von: Yang, Haoyan, et al.
Veröffentlicht: (2024)

Prompt-Based LLMs for Position Bias-Aware Reranking in Personalized Recommendations
von: Islam, Md Aminul, et al.
Veröffentlicht: (2025)

Reasoning on a Spectrum: Aligning LLMs to System 1 and System 2 Thinking
von: Ziabari, Alireza S., et al.
Veröffentlicht: (2025)

Make Satire Boring Again: Reducing Stylistic Bias of Satirical Corpus by Utilizing Generative LLMs
von: Ozturk, Asli Umay, et al.
Veröffentlicht: (2024)

The Social Cost of Intelligence: Emergence, Propagation, and Amplification of Stereotypical Bias in Multi-Agent Systems
von: Nguyen, Thi-Nhung, et al.
Veröffentlicht: (2025)

KLAAD: Refining Attention Mechanisms to Reduce Societal Bias in Generative Language Models
von: Kim, Seorin, et al.
Veröffentlicht: (2025)

KDCM: Reducing Hallucination in LLMs through Explicit Reasoning Structures
von: Hao, Jinbo, et al.
Veröffentlicht: (2026)

PARASITE: Conditional System Prompt Poisoning to Hijack LLMs
von: Pham, Viet, et al.
Veröffentlicht: (2025)

Inference-Time Reasoning Selectively Reduces Implicit Social Bias in Large Language Models
von: Apsel, Molly, et al.
Veröffentlicht: (2026)