Buchumschlag

"Not Aligned" is Not "Malicious": Being Careful about Hallucinations of Large Language Models' Jailbreak

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Mei, Lingrui, Liu, Shenghua, Wang, Yiwei, Bi, Baolong, Mao, Jiayi, Cheng, Xueqi
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SLANG: New Concept Comprehension of Large Language Models
von: Mei, Lingrui, et al.
Veröffentlicht: (2024)

LPNL: Scalable Link Prediction with Large Language Models
von: Bi, Baolong, et al.
Veröffentlicht: (2024)

StruEdit: Structured Outputs Enable the Fast and Accurate Knowledge Editing for Large Language Models
von: Bi, Baolong, et al.
Veröffentlicht: (2024)

Decoding by Contrasting Knowledge: Enhancing LLMs' Confidence on Edited Facts
von: Bi, Baolong, et al.
Veröffentlicht: (2024)

HiddenGuard: Fine-Grained Safe Generation with Specialized Representation Router
von: Mei, Lingrui, et al.
Veröffentlicht: (2024)

Parameters vs. Context: Fine-Grained Control of Knowledge Reliance in Language Models
von: Bi, Baolong, et al.
Veröffentlicht: (2025)

Prism-$Δ$: Differential Subspace Steering for Prompt Highlighting in Large Language Models
von: Ge, Yuyao, et al.
Veröffentlicht: (2026)

Adaptive Token Biaser: Knowledge Editing via Biasing Key Entities
von: Bi, Baolong, et al.
Veröffentlicht: (2024)

Not in Sync: Unveiling Temporal Bias in Audio Chat Models
von: Yao, Jiayu, et al.
Veröffentlicht: (2025)

a1: Steep Test-time Scaling Law via Environment Augmented Generation
von: Mei, Lingrui, et al.
Veröffentlicht: (2025)

Gated Differentiable Working Memory for Long-Context Language Modeling
von: Mei, Lingrui, et al.
Veröffentlicht: (2026)

Is Factuality Enhancement a Free Lunch For LLMs? Better Factuality Can Lead to Worse Context-Faithfulness
von: Bi, Baolong, et al.
Veröffentlicht: (2024)

Who is in the Spotlight: The Hidden Bias Undermining Multimodal Retrieval-Augmented Generation
von: Yao, Jiayu, et al.
Veröffentlicht: (2025)

RefineX: Learning to Refine Pre-training Data at Scale from Expert-Guided Programs
von: Bi, Baolong, et al.
Veröffentlicht: (2025)

Innate Reasoning is Not Enough: In-Context Learning Enhances Reasoning Large Language Models with Less Overthinking
von: Ge, Yuyao, et al.
Veröffentlicht: (2025)

A Survey of Context Engineering for Large Language Models
von: Mei, Lingrui, et al.
Veröffentlicht: (2025)

Context-DPO: Aligning Language Models for Context-Faithfulness
von: Bi, Baolong, et al.
Veröffentlicht: (2024)

Rethinking All Evidence: Enhancing Trustworthy Retrieval-Augmented Generation via Conflict-Driven Summarization
von: Chen, Juan, et al.
Veröffentlicht: (2025)

Focusing by Contrastive Attention: Enhancing VLMs' Visual Reasoning
von: Ge, Yuyao, et al.
Veröffentlicht: (2025)

Can Graph Descriptive Order Affect Solving Graph Problems with LLMs?
von: Ge, Yuyao, et al.
Veröffentlicht: (2024)

ForgeDAN: An Evolutionary Framework for Jailbreaking Aligned Large Language Models
von: Cheng, Siyang, et al.
Veröffentlicht: (2025)

Large Language Models as Computable Approximations to Solomonoff Induction
von: Wan, Jun, et al.
Veröffentlicht: (2025)

Towards Fully Exploiting LLM Internal States to Enhance Knowledge Boundary Perception
von: Ni, Shiyu, et al.
Veröffentlicht: (2025)

Training a Utility-based Retriever Through Shared Context Attribution for Retrieval-Augmented Language Models
von: Xu, Yilong, et al.
Veröffentlicht: (2025)

How to Make Large Language Models Generate 100% Valid Molecules?
von: Tao, Wen, et al.
Veröffentlicht: (2025)

Reward and Guidance through Rubrics: Promoting Exploration to Improve Multi-Domain Reasoning
von: Bi, Baolong, et al.
Veröffentlicht: (2025)

ALiiCE: Evaluating Positional Fine-grained Citation Generation
von: Xu, Yilong, et al.
Veröffentlicht: (2024)

Alleviating Hallucinations of Large Language Models through Induced Hallucinations
von: Zhang, Yue, et al.
Veröffentlicht: (2023)

Diversity Helps Jailbreak Large Language Models
von: Zhao, Weiliang, et al.
Veröffentlicht: (2024)

AutoDAN: Generating Stealthy Jailbreak Prompts on Aligned Large Language Models
von: Liu, Xiaogeng, et al.
Veröffentlicht: (2023)

Persona Jailbreaking in Large Language Models
von: Sandhan, Jivnesh, et al.
Veröffentlicht: (2026)

Overlooked Safety Vulnerability in LLMs: Malicious Intelligent Optimization Algorithm Request and its Jailbreak
von: Gu, Haoran, et al.
Veröffentlicht: (2026)

From Hallucinations to Jailbreaks: Rethinking the Vulnerability of Large Foundation Models
von: Jin, Haibo, et al.
Veröffentlicht: (2025)

Evaluating Implicit Bias in Large Language Models by Attacking From a Psychometric Perspective
von: Wen, Yuchen, et al.
Veröffentlicht: (2024)

You Know What I'm Saying: Jailbreak Attack via Implicit Reference
von: Wu, Tianyu, et al.
Veröffentlicht: (2024)

A Survey of Vibe Coding with Large Language Models
von: Ge, Yuyao, et al.
Veröffentlicht: (2025)

Instruction-Aligned Visual Attention for Mitigating Hallucinations in Large Vision-Language Models
von: Li, Bin, et al.
Veröffentlicht: (2025)

CCJA: Context-Coherent Jailbreak Attack for Aligned Large Language Models
von: Zhou, Guanghao, et al.
Veröffentlicht: (2025)

Aligning Large Language Models to Follow Instructions and Hallucinate Less via Effective Data Filtering
von: Si, Shuzheng, et al.
Veröffentlicht: (2025)

Mitigating Geospatial Knowledge Hallucination in Large Language Models: Benchmarking and Dynamic Factuality Aligning
von: Wang, Shengyuan, et al.
Veröffentlicht: (2025)