Buchumschlag

Redirected, Not Removed: Task-Dependent Stereotyping Reveals the Limits of LLM Alignments

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kumar, Divyanshu, Gupta, Ishita, Birur, Nitin Aravind, Baswa, Tanay, Agarwal, Sahil, Harshangi, Prashanth
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SocioEval: A Template-Based Framework for Evaluating Socioeconomic Status Bias in Foundation Models
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2026)

Beyond Western Politics: Cross-Cultural Benchmarks for Evaluating Partisan Associations in LLMs
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2025)

VERA: Validation and Enhancement for Retrieval Augmented systems
von: Birur, Nitin Aravind, et al.
Veröffentlicht: (2024)

SAGE-RT: Synthetic Alignment data Generation for Safety Evaluation and Red Teaming
von: Kumar, Anurakt, et al.
Veröffentlicht: (2024)

No Free Lunch with Guardrails
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2025)

Quantifying CBRN Risk in Frontier Models
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2025)

Beyond Text: Multimodal Jailbreaking of Vision-Language and Audio Models through Perceptually Simple Transformations
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2025)

Investigating Implicit Bias in Large Language Models: A Large-Scale Study of Over 50 LLMs
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2024)

Fine-Tuning, Quantization, and LLMs: Navigating Unintended Outcomes
von: Kumar, Divyanshu, et al.
Veröffentlicht: (2024)

Ethical Reasoning and Moral Value Alignment of LLMs Depend on the Language we Prompt them in
von: Agarwal, Utkarsh, et al.
Veröffentlicht: (2024)

PLANTS: A Novel Problem and Dataset for Summarization of Planning-Like (PL) Tasks
von: Pallagani, Vishal, et al.
Veröffentlicht: (2024)

Languages are Modalities: Cross-Lingual Alignment via Encoder Injection
von: Agarwal, Rajan, et al.
Veröffentlicht: (2025)

Curiosity-Driven LLM-as-a-judge for Personalized Creative Judgment
von: Kumar, Vanya Bannihatti, et al.
Veröffentlicht: (2025)

DECASTE: Unveiling Caste Stereotypes in Large Language Models through Multi-Dimensional Bias Analysis
von: Vijayaraghavan, Prashanth, et al.
Veröffentlicht: (2025)

Personality Shapes Gender Bias in Persona-Conditioned LLM Narratives Across English and Hindi: An Empirical Investigation
von: Kumar, Tanay, et al.
Veröffentlicht: (2026)

Dual Debiasing: Remove Stereotypes and Keep Factual Gender for Fair Language Modeling and Translation
von: Limisiewicz, Tomasz, et al.
Veröffentlicht: (2025)

Diagnosing the Performance Trade-off in Moral Alignment: A Case Study on Gender Stereotypes
von: Liu, Guangliang, et al.
Veröffentlicht: (2025)

Probing the Limits of Stylistic Alignment in Vision-Language Models
von: Farajidizaji, Asma, et al.
Veröffentlicht: (2025)

JEBS: A Fine-grained Biomedical Lexical Simplification Task
von: Xia, William, et al.
Veröffentlicht: (2025)

Do Language Models Know When They'll Refuse? Probing Introspective Awareness of Safety Boundaries
von: Gondil, Tanay
Veröffentlicht: (2026)

Reading Between the Prompts: How Stereotypes Shape LLM's Implicit Personalization
von: Neplenbroek, Vera, et al.
Veröffentlicht: (2025)

Simulating Identity, Propagating Bias: Abstraction and Stereotypes in LLM-Generated Text
von: Sommerauer, Pia, et al.
Veröffentlicht: (2025)

Exploring the Limits of Fine-grained LLM-based Physics Inference via Premise Removal Interventions
von: Meadows, Jordan, et al.
Veröffentlicht: (2024)

Quantifying Stereotypes in Language
von: Liu, Yang
Veröffentlicht: (2024)

LLM Task Interference: An Initial Study on the Impact of Task-Switch in Conversational History
von: Gupta, Akash, et al.
Veröffentlicht: (2024)

Team A at SemEval-2025 Task 11: Breaking Language Barriers in Emotion Detection with Multilingual Models
von: Sahil, P Sam, et al.
Veröffentlicht: (2025)

Challenging Negative Gender Stereotypes: A Study on the Effectiveness of Automated Counter-Stereotypes
von: Nejadgholi, Isar, et al.
Veröffentlicht: (2024)

Stereotype Detection as a Catalyst for Enhanced Bias Detection: A Multi-Task Learning Approach
von: Tomar, Aditya, et al.
Veröffentlicht: (2025)

AlphaPO: Reward Shape Matters for LLM Alignment
von: Gupta, Aman, et al.
Veröffentlicht: (2025)

Examining Alignment of Large Language Models through Representative Heuristics: The Case of Political Stereotypes
von: Jeoung, Sullam, et al.
Veröffentlicht: (2025)

Human-Instruction-Free LLM Self-Alignment with Limited Samples
von: Guo, Hongyi, et al.
Veröffentlicht: (2024)

LLM driven Text-to-Table Generation through Sub-Tasks Guidance and Iterative Refinement
von: C, Rajmohan, et al.
Veröffentlicht: (2025)

Ask Early, Ask Late, Ask Right: When Does Clarification Timing Matter for Long-Horizon Agents?
von: Gulati, Anmol, et al.
Veröffentlicht: (2026)

Systematic Evaluation of LLM-as-a-Judge in LLM Alignment Tasks: Explainable Metrics and Diverse Prompt Templates
von: Wei, Hui, et al.
Veröffentlicht: (2024)

Task-Dependent Evaluation of LLM Output Homogenization: A Taxonomy-Guided Framework
von: Jain, Shomik, et al.
Veröffentlicht: (2025)

Investigating Gender Bias in LLM-Generated Stories via Psychological Stereotypes
von: Masoudian, Shahed, et al.
Veröffentlicht: (2025)

'Since Lawyers are Males..': Examining Implicit Gender Bias in Hindi Language Generation by LLMs
von: Joshi, Ishika, et al.
Veröffentlicht: (2024)

LLM for Barcodes: Generating Diverse Synthetic Data for Identity Documents
von: Patel, Hitesh Laxmichand, et al.
Veröffentlicht: (2024)

Semantic similarity estimation for domain specific data using BERT and other techniques
von: Prashanth, R.
Veröffentlicht: (2025)

Understanding Student Sentiment on Mental Health Support in Colleges Using Large Language Models
von: Sood, Palak, et al.
Veröffentlicht: (2024)