Buchumschlag

SHIELD: Classifier-Guided Prompting for Robust and Safer LVLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ren, Juan, Dras, Mark, Naseem, Usman
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Seeing the Threat: Vulnerabilities in Vision-Language Models to Adversarial Attack
von: Ren, Juan, et al.
Veröffentlicht: (2025)

Agentic Moderation: Multi-Agent Design for Safer Vision-Language Models
von: Ren, Juan, et al.
Veröffentlicht: (2025)

Should LLM Safety Be More Than Refusing Harmful Instructions?
von: Maskey, Utsav, et al.
Veröffentlicht: (2025)

Steering Over-refusals Towards Safety in Retrieval Augmented Generation
von: Maskey, Utsav, et al.
Veröffentlicht: (2025)

Over-Refusal and Representation Subspaces: A Mechanistic Analysis of Task-Conditioned Refusal in Aligned LLMs
von: Maskey, Utsav, et al.
Veröffentlicht: (2026)

Steering Towards Fairness: Mitigating Political Bias in LLMs
von: Nadeem, Afrozah, et al.
Veröffentlicht: (2025)

Fairness Evaluation and Inference Level Mitigation in LLMs
von: Nadeem, Afrozah, et al.
Veröffentlicht: (2025)

Framing Political Bias in Multilingual LLMs Across Pakistani Languages
von: Nadeem, Afrozah, et al.
Veröffentlicht: (2025)

We Think, Therefore We Align LLMs to Helpful, Harmless and Honest Before They Go Wrong
von: Kashyap, Gautam Siddharth, et al.
Veröffentlicht: (2025)

Too Helpful, Too Harmless, Too Honest or Just Right?
von: Kashyap, Gautam Siddharth, et al.
Veröffentlicht: (2025)

AlignCultura: Towards Culturally Aligned Large Language Models?
von: Kashyap, Gautam Siddharth, et al.
Veröffentlicht: (2026)

When the Model Said 'No Comment', We Knew Helpfulness Was Dead, Honesty Was Alive, and Safety Was Terrified
von: Kashyap, Gautam Siddharth, et al.
Veröffentlicht: (2026)

Beyond the Black Box: Demystifying Multi-Turn LLM Reasoning with VISTA
von: Zhang, Yiran, et al.
Veröffentlicht: (2025)

CogMem: A Cognitive Memory Architecture for Sustained Multi-Turn Reasoning in Large Language Models
von: Zhang, Yiran, et al.
Veröffentlicht: (2025)

SafeConstellations: Mitigating Over-Refusals in LLMs Through Task-Aware Representation Steering
von: Maskey, Utsav, et al.
Veröffentlicht: (2025)

VITAL: A New Dataset for Benchmarking Pluralistic Alignment in Healthcare
von: Shetty, Anudeex, et al.
Veröffentlicht: (2025)

DUAL-Bench: Measuring Over-Refusal and Robustness in Vision-Language Models
von: Ren, Kaixuan, et al.
Veröffentlicht: (2025)

A Survey on Progress in LLM Alignment from the Perspective of Reward Design
von: Ji, Miaomiao, et al.
Veröffentlicht: (2025)

VaxGuard: A Multi-Generator, Multi-Type, and Multi-Role Dataset for Detecting LLM-Generated Vaccine Misinformation
von: Ahmad, Syed Talal, et al.
Veröffentlicht: (2025)

Mechanistic Interpretability for Large Language Model Alignment: Progress, Challenges, and Future Directions
von: Naseem, Usman
Veröffentlicht: (2026)

Myanmar XNLI: Building a Dataset and Exploring Low-resource Approaches to Natural Language Inference with Myanmar
von: Htet, Aung Kyaw, et al.
Veröffentlicht: (2025)

Benchmarking Large Language Models for Cryptanalysis and Side-Channel Vulnerabilities
von: Maskey, Utsav, et al.
Veröffentlicht: (2025)

Enhancing ESG Impact Type Identification through Early Fusion and Multilingual Models
von: Veeramani, Hariram, et al.
Veröffentlicht: (2024)

PersoPilot: An Adaptive AI-Copilot for Transparent Contextualized Persona Classification and Personalized Response Generation
von: Afzoon, Saleh, et al.
Veröffentlicht: (2026)

Safer in Translation? Presupposition Robustness in Indic Languages
von: Palnitkar, Aadi, et al.
Veröffentlicht: (2025)

Reversal of Thought: Enhancing Large Language Models with Preference-Guided Reverse Reasoning Warm-up
von: Yuan, Jiahao, et al.
Veröffentlicht: (2024)

ExtremeAIGC: Benchmarking LMM Vulnerability to AI-Generated Extremist Content
von: Chandna, Bhavik, et al.
Veröffentlicht: (2025)

When Prompts Override Vision: Prompt-Induced Hallucinations in LVLMs
von: Khayatan, Pegah, et al.
Veröffentlicht: (2026)

TurnBench-MS: A Benchmark for Evaluating Multi-Turn, Multi-Step Reasoning in Large Language Models
von: Zhang, Yiran, et al.
Veröffentlicht: (2025)

XGUARD: A Graded Benchmark for Evaluating Safety Failures of Large Language Models on Extremist Content
von: Abishethvarman, Vadivel, et al.
Veröffentlicht: (2025)

PersoBench: Benchmarking Personalized Response Generation in Large Language Models
von: Afzoon, Saleh, et al.
Veröffentlicht: (2024)

Evaluating Hierarchical Clinical Document Classification Using Reasoning-Based LLMs
von: Mustafa, Akram, et al.
Veröffentlicht: (2025)

Can Reasoning LLMs Enhance Clinical Document Classification?
von: Mustafa, Akram, et al.
Veröffentlicht: (2025)

Graded Suspiciousness of Adversarial Texts to Human
von: Tonni, Shakila Mahjabin, et al.
Veröffentlicht: (2024)

Safer or Luckier? LLMs as Safety Evaluators Are Not Robust to Artifacts
von: Chen, Hongyu, et al.
Veröffentlicht: (2025)

MRG-R1: Reinforcement Learning for Clinically Aligned Medical Report Generation
von: Wang, Pengyu, et al.
Veröffentlicht: (2025)

Bias Beyond Borders: Political Ideology Evaluation and Steering in Multilingual LLMs
von: Nadeem, Afrozah, et al.
Veröffentlicht: (2026)

Do LVLMs Know What They Know? A Systematic Study of Knowledge Boundary Perception in LVLMs
von: Ding, Zhikai, et al.
Veröffentlicht: (2025)

PersoDPO: Scalable Preference Optimization for Instruction-Adherent, Persona-Grounded Dialogue via Multi-LLM Evaluation
von: Afzoon, Saleh, et al.
Veröffentlicht: (2026)

LVMed-R2: Perception and Reflection-driven Complex Reasoning for Medical Report Generation
von: Wang, Hao, et al.
Veröffentlicht: (2025)