Buchumschlag

Leveraging RAG for Training-Free Alignment of LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Halloran, John T.
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence Cryptography and Security
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MCP Safety Audit: LLMs with the Model Context Protocol Allow Major Security Exploits
von: Radosevich, Brandon, et al.
Veröffentlicht: (2025)

Understanding the Effects of Safety Unalignment on Large Language Models
von: Halloran, John T.
Veröffentlicht: (2026)

Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks
von: Halloran, John T., et al.
Veröffentlicht: (2026)

MCP Safety Training: Learning to Refuse Falsely Benign MCP Exploits using Improved Preference Alignment
von: Halloran, John
Veröffentlicht: (2025)

Private-RAG: Answering Multiple Queries with LLMs while Keeping Your Data Private
von: Wu, Ruihan, et al.
Veröffentlicht: (2025)

SME-TEAM: Leveraging Trust and Ethics for Secure and Responsible Use of AI and LLMs in SMEs
von: Sarker, Iqbal H., et al.
Veröffentlicht: (2025)

RAG with Differential Privacy
von: Grislain, Nicolas
Veröffentlicht: (2024)

GraphRAG under Fire
von: Liang, Jiacheng, et al.
Veröffentlicht: (2025)

Immune: Improving Safety Against Jailbreaks in Multi-modal LLMs via Inference-Time Alignment
von: Ghosal, Soumya Suvra, et al.
Veröffentlicht: (2024)

Data-Free Privacy-Preserving for LLMs via Model Inversion and Selective Unlearning
von: Zhou, Xinjie, et al.
Veröffentlicht: (2026)

Protecting Copyright of Medical Pre-trained Language Models: Training-Free Backdoor Model Watermarking
von: Kong, Cong, et al.
Veröffentlicht: (2024)

CLASP: Training-Free LLM-Assisted Source Code Watermarking via Semantic-Preserving Transformations
von: Xu, Rui, et al.
Veröffentlicht: (2025)

Ward: Provable RAG Dataset Inference via LLM Watermarks
von: Jovanović, Nikola, et al.
Veröffentlicht: (2024)

Res-MIA: A Training-Free Resolution-Based Membership Inference Attack on Federated Learning Models
von: Zare, Mohammad, et al.
Veröffentlicht: (2026)

Semantic Chameleon: Corpus-Dependent Poisoning Attacks and Defenses in RAG Systems
von: Thornton, Scott
Veröffentlicht: (2026)

Topological Signatures of Adversaries in Multimodal Alignments
von: Vu, Minh, et al.
Veröffentlicht: (2025)

How to make Medical AI Systems safer? Simulating Vulnerabilities, and Threats in Multimodal Medical RAG System
von: Zuo, Kaiwen, et al.
Veröffentlicht: (2025)

Enhancing Prompt Injection Attacks to LLMs via Poisoning Alignment
von: Shao, Zedian, et al.
Veröffentlicht: (2024)

No More, No Less: Task Alignment in Terminal Agents
von: Mavali, Sina, et al.
Veröffentlicht: (2026)

MF-CLIP: Leveraging CLIP as Surrogate Models for No-box Adversarial Attacks
von: Zhang, Jiaming, et al.
Veröffentlicht: (2023)

Leveraging AI to optimize website structure discovery during Penetration Testing
von: Antonelli, Diego, et al.
Veröffentlicht: (2021)

Leveraging Reinforcement Learning in Red Teaming for Advanced Ransomware Attack Simulations
von: Wang, Cheng, et al.
Veröffentlicht: (2024)

Improved Algorithms for Differentially Private Language Model Alignment
von: Chen, Keyu, et al.
Veröffentlicht: (2025)

Uncovering Logit Suppression Vulnerabilities in LLM Safety Alignment
von: Li, Yuxi, et al.
Veröffentlicht: (2024)

Forget to Flourish: Leveraging Machine-Unlearning on Pretrained Language Models for Privacy Leakage
von: Rashid, Md Rafi Ur, et al.
Veröffentlicht: (2024)

RASA: Routing-Aware Safety Alignment for Mixture-of-Experts Models
von: Liang, Jiacheng, et al.
Veröffentlicht: (2026)

SoSBench: Benchmarking Safety Alignment on Six Scientific Domains
von: Jiang, Fengqing, et al.
Veröffentlicht: (2025)

Attention Eclipse: Manipulating Attention to Bypass LLM Safety-Alignment
von: Zaree, Pedram, et al.
Veröffentlicht: (2025)

Automated Consistency Analysis of LLMs
von: Patwardhan, Aditya, et al.
Veröffentlicht: (2025)

Advancing Email Spam Detection: Leveraging Zero-Shot Learning and Large Language Models
von: SHirvani, Ghazaleh, et al.
Veröffentlicht: (2025)

AI-Driven Anonymization: Protecting Personal Data Privacy While Leveraging Machine Learning
von: Yang, Le, et al.
Veröffentlicht: (2024)

Differentially Private Preference Data Synthesis for Large Language Model Alignment
von: Gao, Fengyu, et al.
Veröffentlicht: (2026)

AlphaAlign: Incentivizing Safety Alignment with Extremely Simplified Reinforcement Learning
von: Zhang, Yi, et al.
Veröffentlicht: (2025)

Large-scale online deanonymization with LLMs
von: Lermen, Simon, et al.
Veröffentlicht: (2026)

Scaling Trends for Data Poisoning in LLMs
von: Bowen, Dillon, et al.
Veröffentlicht: (2024)

Secure Energy Transactions Using Blockchain Leveraging AI for Fraud Detection and Energy Market Stability
von: Khan, Md Asif Ul Hoq, et al.
Veröffentlicht: (2025)

Injecting Universal Jailbreak Backdoors into LLMs in Minutes
von: Chen, Zhuowei, et al.
Veröffentlicht: (2025)

Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs
von: Yuan, Leitao, et al.
Veröffentlicht: (2026)

Position: Retire the "Positive Backdoor" Label -- Secret Alignment Requires Strict and Systematic Evaluation
von: Li, Jianwei, et al.
Veröffentlicht: (2026)

Adaptive Discounting of Training Time Attacks
von: Bector, Ridhima, et al.
Veröffentlicht: (2024)