Buchumschlag

AlignGuard: Scalable Safety Alignment for Text-to-Image Generation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liu, Runtao, Chen, I Chieh, Gu, Jindong, Zhang, Jipeng, Pi, Renjie, Chen, Qifeng, Torr, Philip, Khakzar, Ashkan, Pizzati, Fabio
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computer Vision and Pattern Recognition Artificial Intelligence Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Latent Guard: a Safety Framework for Text-to-image Generation
von: Liu, Runtao, et al.
Veröffentlicht: (2024)

Reimagining Safety Alignment with An Image
von: Xia, Yifan, et al.
Veröffentlicht: (2025)

VideoDPO: Omni-Preference Alignment for Video Diffusion Generation
von: Liu, Runtao, et al.
Veröffentlicht: (2024)

Learning Visual Prompts for Guiding the Attention of Vision Transformers
von: Rezaei, Razieh, et al.
Veröffentlicht: (2024)

LongVideoAgent: Multi-Agent Reasoning with Long Videos
von: Liu, Runtao, et al.
Veröffentlicht: (2025)

Specify and Edit: Overcoming Ambiguity in Text-Based Image Editing
von: Iakovleva, Ekaterina, et al.
Veröffentlicht: (2024)

Articulate3D: Zero-Shot Text-Driven 3D Object Posing
von: Deb, Oishi, et al.
Veröffentlicht: (2025)

AlignGuard-LoRA: Alignment-Preserving Fine-Tuning via Fisher-Guided Decomposition and Riemannian-Geodesic Collision Regularization
von: Das, Amitava, et al.
Veröffentlicht: (2025)

Too Late to Recall: Explaining the Two-Hop Problem in Multimodal Knowledge Retrieval
von: Venhoff, Constantin, et al.
Veröffentlicht: (2025)

How Visual Representations Map to Language Feature Space in Multimodal LLMs
von: Venhoff, Constantin, et al.
Veröffentlicht: (2025)

Self-Discovering Interpretable Diffusion Latent Directions for Responsible Text-to-Image Generation
von: Li, Hang, et al.
Veröffentlicht: (2023)

Model Merging and Safety Alignment: One Bad Model Spoils the Bunch
von: Hammoud, Hasan Abed Al Kader, et al.
Veröffentlicht: (2024)

The Cognitive Revolution in Interpretability: From Explaining Behavior to Interpreting Representations and Algorithms
von: Davies, Adam, et al.
Veröffentlicht: (2024)

Quantifying Feature Space Universality Across Large Language Models via Sparse Autoencoders
von: Lan, Michael, et al.
Veröffentlicht: (2024)

PostAlign: Multimodal Grounding as a Corrective Lens for MLLMs
von: Wu, Yixuan, et al.
Veröffentlicht: (2025)

Pointing to a Llama and Call it a Camel: On the Sycophancy of Multimodal Large Language Models
von: Pi, Renjie, et al.
Veröffentlicht: (2025)

VL-GenRM: Enhancing Vision-Language Verification via Vision Experts and Iterative Training
von: Zhang, Jipeng, et al.
Veröffentlicht: (2025)

Strengthening Multimodal Large Language Model with Bootstrapped Preference Optimization
von: Pi, Renjie, et al.
Veröffentlicht: (2024)

Learnable Sparsity for Vision Generative Models
von: Zhang, Yang, et al.
Veröffentlicht: (2024)

Minimalist Concept Erasure in Generative Models
von: Zhang, Yang, et al.
Veröffentlicht: (2025)

Which Model Generated This Image? A Model-Agnostic Approach for Origin Attribution
von: Liu, Fengyuan, et al.
Veröffentlicht: (2024)

An Image Is Worth 1000 Lies: Adversarial Transferability across Prompts on Vision-Language Models
von: Luo, Haochen, et al.
Veröffentlicht: (2024)

Improving Adversarial Transferability via Model Alignment
von: Ma, Avery, et al.
Veröffentlicht: (2023)

Image Textualization: An Automatic Framework for Creating Accurate and Detailed Image Descriptions
von: Pi, Renjie, et al.
Veröffentlicht: (2024)

Video Motion Transfer with Diffusion Transformers
von: Pondaven, Alexander, et al.
Veröffentlicht: (2024)

Bridge-Coder: Unlocking LLMs' Potential to Overcome Language Gaps in Low-Resource Code
von: Zhang, Jipeng, et al.
Veröffentlicht: (2024)

Hidden in Plain Sight: Evaluating Abstract Shape Recognition in Vision-Language Models
von: Hemmat, Arshia, et al.
Veröffentlicht: (2024)

A Survey on Transferability of Adversarial Examples across Deep Neural Networks
von: Gu, Jindong, et al.
Veröffentlicht: (2023)

Towards Understanding Multimodal Fine-Tuning: Spatial Features
von: Naghashyar, Lachin, et al.
Veröffentlicht: (2026)

AttributionLab: Faithfulness of Feature Attribution Under Controllable Environments
von: Zhang, Yang, et al.
Veröffentlicht: (2023)

Effective Bilevel Optimization via Minimax Reformulation
von: Wang, Xiaoyu, et al.
Veröffentlicht: (2023)

Influencer Backdoor Attack on Semantic Segmentation
von: Lan, Haoheng, et al.
Veröffentlicht: (2023)

A Guardrail for Safety Preservation: When Safety-Sensitive Subspace Meets Harmful-Resistant Null-Space
von: Zhang, Bingjie, et al.
Veröffentlicht: (2025)

ActionParty: Multi-Subject Action Binding in Generative Video Games
von: Pondaven, Alexander, et al.
Veröffentlicht: (2026)

Can Knowledge-Graph-based Retrieval Augmented Generation Really Retrieve What You Need?
von: Yu, Junchi, et al.
Veröffentlicht: (2025)

Bag of Tricks for Subverting Reasoning-based Safety Guardrails
von: Chen, Shuo, et al.
Veröffentlicht: (2025)

GuardAlign: Test-time Safety Alignment in Multimodal Large Language Models
von: Zhu, Xingyu, et al.
Veröffentlicht: (2026)

Mixture of Experts Made Intrinsically Interpretable
von: Yang, Xingyi, et al.
Veröffentlicht: (2025)

MatchDiffusion: Training-free Generation of Match-cuts
von: Pardo, Alejandro, et al.
Veröffentlicht: (2024)

Towards Reliable Identification of Diffusion-based Image Manipulations
von: Costanzino, Alex, et al.
Veröffentlicht: (2025)