Buchumschlag

Safety Alignment in NLP Tasks: Weakly Aligned Summarization as an In-Context Attack

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Fu, Yu, Li, Yufei, Xiao, Wen, Liu, Cong, Dong, Yue
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MACE: A Hybrid LLM Serving System with Colocated SLO-aware Continuous Retraining Alignment
von: Li, Yufei, et al.
Veröffentlicht: (2025)

Cross-Task Defense: Instruction-Tuning LLMs for Content Safety
von: Fu, Yu, et al.
Veröffentlicht: (2024)

ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack
von: Li, Hao, et al.
Veröffentlicht: (2026)

The Alignment Floor: How Persona Customization Breaks Safety in Weakly-Aligned LLMs
von: Zhang, Xing, et al.
Veröffentlicht: (2026)

NLP-ADBench: NLP Anomaly Detection Benchmark
von: Li, Yuangang, et al.
Veröffentlicht: (2024)

Long Context Alignment with Short Instructions and Synthesized Positions
von: Wu, Wenhao, et al.
Veröffentlicht: (2024)

AlignSum: Data Pyramid Hierarchical Fine-tuning for Aligning with Human Summarization Preference
von: Han, Yang, et al.
Veröffentlicht: (2024)

LongAlign: A Recipe for Long Context Alignment of Large Language Models
von: Bai, Yushi, et al.
Veröffentlicht: (2024)

Mitigating Fine-tuning based Jailbreak Attack with Backdoor Enhanced Safety Alignment
von: Wang, Jiongxiao, et al.
Veröffentlicht: (2024)

MSR-Align: Policy-Grounded Multimodal Alignment for Safety-Aware Reasoning in Vision-Language Models
von: Xia, Yinan, et al.
Veröffentlicht: (2025)

OpenEval: Benchmarking Chinese LLMs across Capability, Alignment and Safety
von: Liu, Chuang, et al.
Veröffentlicht: (2024)

Improving Weak-to-Strong Generalization with Reliability-Aware Alignment
von: Guo, Yue, et al.
Veröffentlicht: (2024)

Abstractive Text Summarization for Bangla Language Using NLP and Machine Learning Approaches
von: Miazee, Asif Ahammad, et al.
Veröffentlicht: (2025)

STAIR: Improving Safety Alignment with Introspective Reasoning
von: Zhang, Yichi, et al.
Veröffentlicht: (2025)

AraFinNLP 2024: The First Arabic Financial NLP Shared Task
von: Malaysha, Sanad, et al.
Veröffentlicht: (2024)

W2S-AlignTree: Weak-to-Strong Inference-Time Alignment for Large Language Models via Monte Carlo Tree Search
von: Ding, Zhenyu, et al.
Veröffentlicht: (2025)

IterAlign: Iterative Constitutional Alignment of Large Language Models
von: Chen, Xiusi, et al.
Veröffentlicht: (2024)

TokAlign++: Advancing Vocabulary Adaptation via Better Token Alignment
von: Li, Chong, et al.
Veröffentlicht: (2026)

Weak-to-Strong Preference Optimization: Stealing Reward from Weak Aligned Model
von: Zhu, Wenhong, et al.
Veröffentlicht: (2024)

NLP Datasets for Idiom and Figurative Language Tasks
von: Matheny, Blake, et al.
Veröffentlicht: (2025)

What Matters For Safety Alignment?
von: Li, Xing, et al.
Veröffentlicht: (2026)

Aligning NLP Models with Target Population Perspectives using PAIR: Population-Aligned Instance Replication
von: Eckman, Stephanie, et al.
Veröffentlicht: (2025)

SafeAligner: Safety Alignment against Jailbreak Attacks via Response Disparity Guidance
von: Huang, Caishuang, et al.
Veröffentlicht: (2024)

AlignBench: Benchmarking Chinese Alignment of Large Language Models
von: Liu, Xiao, et al.
Veröffentlicht: (2023)

Multi-Dimensional Evaluation of Text Summarization with In-Context Learning
von: Jain, Sameer, et al.
Veröffentlicht: (2023)

Align Once, Benefit Multilingually: Enforcing Multilingual Consistency for LLM Safety Alignment
von: Bu, Yuyan, et al.
Veröffentlicht: (2026)

Safety-Aligned Weights Are Not Enough: Refusal-Teacher-Guided Finetuning Enhances Safety and Downstream Performance under Harmful Finetuning Attacks
von: Ham, Seokil, et al.
Veröffentlicht: (2025)

Harnessing the Unseen: The Hidden Influence of Intrinsic Knowledge in Long-Context Language Models
von: Fu, Yu, et al.
Veröffentlicht: (2025)

YaleNLP @ PerAnsSumm 2025: Multi-Perspective Integration via Mixture-of-Agents for Enhanced Healthcare QA Summarization
von: Jang, Dongsuk, et al.
Veröffentlicht: (2025)

Personalized Abstractive Summarization by Tri-agent Generation Pipeline
von: Xiao, Wen, et al.
Veröffentlicht: (2023)

HERA: Improving Long Document Summarization using Large Language Models with Context Packaging and Reordering
von: Li, Taiji, et al.
Veröffentlicht: (2025)

Annotator-Centric Active Learning for Subjective NLP Tasks
von: van der Meer, Michiel, et al.
Veröffentlicht: (2024)

How Far Can In-Context Alignment Go? Exploring the State of In-Context Alignment
von: Huang, Heyan, et al.
Veröffentlicht: (2024)

On Context Utilization in Summarization with Large Language Models
von: Ravaut, Mathieu, et al.
Veröffentlicht: (2023)

Comparative Evaluation of ChatGPT and DeepSeek Across Key NLP Tasks: Strengths, Weaknesses, and Domain-Specific Performance
von: Etaiwi, Wael, et al.
Veröffentlicht: (2025)

Knowledge Planning in Large Language Models for Domain-Aligned Counseling Summarization
von: Srivastava, Aseem, et al.
Veröffentlicht: (2024)

Membership Inference Attacks Against In-Context Learning
von: Wen, Rui, et al.
Veröffentlicht: (2024)

Benchmarking LLMs on the Semantic Overlap Summarization Task
von: Salvador, John, et al.
Veröffentlicht: (2024)

Towards Context-Invariant Safety Alignment for Large Language Models
von: Wang, Yixu, et al.
Veröffentlicht: (2026)

Uncertainty Awareness of Large Language Models Under Code Distribution Shifts: A Benchmark Study
von: Li, Yufei, et al.
Veröffentlicht: (2024)