Buchumschlag

LLM Self Defense: By Self Examination, LLMs Know They Are Being Tricked

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Phute, Mansi, Helbling, Alec, Hull, Matthew, Peng, ShengYun, Szyller, Sebastian, Cornelius, Cory, Chau, Duen Horng
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

UNDREAM: Bridging Differentiable Rendering and Photorealistic Simulation for End-to-end Adversarial Attacks
von: Phute, Mansi, et al.
Veröffentlicht: (2025)

LLM Attributor: Interactive Visual Attribution for LLM Generation
von: Lee, Seongmin, et al.
Veröffentlicht: (2024)

Interpretation Meets Safety: A Survey on Interpretation Methods and Tools for Improving LLM Safety
von: Lee, Seongmin, et al.
Veröffentlicht: (2025)

Diffusion Explorer: Interactive Exploration of Diffusion Models
von: Helbling, Alec, et al.
Veröffentlicht: (2025)

Navigating the Safety Landscape: Measuring Risks in Finetuning Large Language Models
von: Peng, ShengYun, et al.
Veröffentlicht: (2024)

Self-Supervised Pre-Training for Table Structure Recognition Transformer
von: Peng, ShengYun, et al.
Veröffentlicht: (2024)

UniTable: Towards a Unified Framework for Table Recognition via Self-Supervised Pretraining
von: Peng, ShengYun, et al.
Veröffentlicht: (2024)

Shape it Up! Restoring LLM Safety during Finetuning
von: Peng, ShengYun, et al.
Veröffentlicht: (2025)

What Time Is It? How Data Geometry Makes Time Conditioning Optional for Flow Matching
von: Helbling, Alec, et al.
Veröffentlicht: (2026)

ConceptAttention: Diffusion Transformers Learn Highly Interpretable Features
von: Helbling, Alec, et al.
Veröffentlicht: (2025)

Semi-Truths: A Large-Scale Dataset of AI-Augmented Images for Evaluating Robustness of AI-Generated Image detectors
von: Pal, Anisha, et al.
Veröffentlicht: (2024)

RenderBender: A Survey on Adversarial Attacks Using Differentiable Rendering
von: Hull, Matthew, et al.
Veröffentlicht: (2024)

ComplicitSplat: Downstream Models are Vulnerable to Blackbox Attacks by 3D Gaussian Splat Camouflages
von: Hull, Matthew, et al.
Veröffentlicht: (2025)

Mobile Fitting Room: On-device Virtual Try-on via Diffusion Models
von: Blalock, Justin, et al.
Veröffentlicht: (2024)

ClickDiffusion: Harnessing LLMs for Interactive Precise Image Editing
von: Helbling, Alec, et al.
Veröffentlicht: (2024)

Non-Robust Features are Not Always Useful in One-Class Classification
von: Lau, Matthew, et al.
Veröffentlicht: (2024)

MeMemo: On-device Retrieval Augmentation for Private and Personalized Text Generation
von: Wang, Zijie J., et al.
Veröffentlicht: (2024)

Transformer Explainer: Interactive Learning of Text-Generative Models
von: Cho, Aeree, et al.
Veröffentlicht: (2024)

Effective Guidance for Model Attention with Simple Yes-no Annotations
von: Lee, Seongmin, et al.
Veröffentlicht: (2024)

Point and Instruct: Enabling Precise Image Editing by Unifying Direct Manipulation and Text Instructions
von: Helbling, Alec, et al.
Veröffentlicht: (2024)

VISOR++: Universal Visual Inputs based Steering for Large Vision Language Models
von: Balakrishnan, Ravikumar, et al.
Veröffentlicht: (2025)

VISOR: Visual Input-based Steering for Output Redirection in Vision-Language Models
von: Phute, Mansi, et al.
Veröffentlicht: (2025)

Large Reasoning Models Learn Better Alignment from Flawed Thinking
von: Peng, ShengYun, et al.
Veröffentlicht: (2025)

Diffusion Explainer: Visual Explanation for Text-to-image Stable Diffusion
von: Lee, Seongmin, et al.
Veröffentlicht: (2023)

Probing LLM Hallucination from Within: Perturbation-Driven Approach via Internal Knowledge
von: Lee, Seongmin, et al.
Veröffentlicht: (2024)

Nested Fusion: A Method for Learning High Resolution Latent Structure of Multi-Scale Measurement Data on Mars
von: Wright, Austin P., et al.
Veröffentlicht: (2024)

SoK: Unintended Interactions among Machine Learning Defenses and Risks
von: Duddu, Vasisht, et al.
Veröffentlicht: (2023)

SuperNOVA: Design Strategies and Opportunities for Interactive Visualization in Computational Notebooks
von: Wang, Zijie J., et al.
Veröffentlicht: (2023)

Wordflow: Social Prompt Engineering for Large Language Models
von: Wang, Zijie J., et al.
Veröffentlicht: (2024)

UNIPO: Unified Interactive Visual Explanation for RL Fine-Tuning Policy Optimization
von: Cho, Aeree, et al.
Veröffentlicht: (2026)

Amulet: a Python Library for Assessing Interactions Among ML Defenses and Risks
von: Waheed, Asim, et al.
Veröffentlicht: (2025)

3D Gaussian Splat Vulnerabilities
von: Hull, Matthew, et al.
Veröffentlicht: (2025)

Dense Associative Memory Through the Lens of Random Features
von: Hoover, Benjamin, et al.
Veröffentlicht: (2024)

Imperceptible Adversarial Examples in the Physical World
von: Xu, Weilin, et al.
Veröffentlicht: (2024)

Managing Project Teams in an Online Class of 1000+ Students
von: Anaraki, Nazanin Tabatabaei, et al.
Veröffentlicht: (2024)

Mirage of Mastery: Memorization Tricks LLMs into Artificially Inflated Self-Knowledge
von: Kale, Sahil
Veröffentlicht: (2025)

ARCollab: Towards Multi-User Interactive Cardiovascular Surgical Planning in Mobile Augmented Reality
von: Mehta, Pratham, et al.
Veröffentlicht: (2024)

Memory in Plain Sight: Surveying the Uncanny Resemblances of Associative Memories and Diffusion Models
von: Hoover, Benjamin, et al.
Veröffentlicht: (2023)

Coupling Self-Dual p-Form Gauge Fields to Self-Dual Branes
von: Hull, Chris
Veröffentlicht: (2025)

LitForager: Exploring Multimodal Literature Foraging Strategies in Immersive Sensemaking
von: Yang, Haoyang, et al.
Veröffentlicht: (2025)