Buchumschlag

AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations using Fine-tuned and Open-Source LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Krishna, Varun Badrinath
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence Cryptography and Security
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Can Differentially Private Fine-tuning LLMs Protect Against Privacy Attacks?
von: Du, Hao, et al.
Veröffentlicht: (2025)

ObfuscaTune: Obfuscated Offsite Fine-tuning and Inference of Proprietary LLMs on Private Datasets
von: Frikha, Ahmed, et al.
Veröffentlicht: (2024)

Harmful Fine-tuning Attacks and Defenses for Large Language Models: A Survey
von: Huang, Tiansheng, et al.
Veröffentlicht: (2024)

I can't see it but I can Fine-tune it: On Encrypted Fine-tuning of Transformers using Fully Homomorphic Encryption
von: Panzade, Prajwal, et al.
Veröffentlicht: (2024)

Bypassing the Safety Training of Open-Source LLMs with Priming Attacks
von: Vega, Jason, et al.
Veröffentlicht: (2023)

Learning to Defend by Attacking (and Vice-Versa): Transfer of Learning in Cybersecurity Games
von: Malloy, Tailia, et al.
Veröffentlicht: (2023)

PRO: Enabling Precise and Robust Text Watermark for Open-Source LLMs
von: Xue, Jiaqi, et al.
Veröffentlicht: (2025)

Safe Delta: Consistently Preserving Safety when Fine-Tuning LLMs on Diverse Datasets
von: Lu, Ning, et al.
Veröffentlicht: (2025)

Securing AI Agents Against Prompt Injection Attacks
von: Ramakrishnan, Badrinath, et al.
Veröffentlicht: (2025)

Private LoRA Fine-tuning of Open-Source LLMs with Homomorphic Encryption
von: Frery, Jordan, et al.
Veröffentlicht: (2025)

Double-I Watermark: Protecting Model Copyright for LLM Fine-tuning
von: Li, Shen, et al.
Veröffentlicht: (2024)

Virus: Harmful Fine-tuning Attack for Large Language Models Bypassing Guardrail Moderation
von: Huang, Tiansheng, et al.
Veröffentlicht: (2025)

NYU CTF Bench: A Scalable Open-Source Benchmark Dataset for Evaluating LLMs in Offensive Security
von: Shao, Minghao, et al.
Veröffentlicht: (2024)

Engineering Attack Vectors and Detecting Anomalies in Additive Manufacturing
von: Hasan, Md Mahbub, et al.
Veröffentlicht: (2026)

Pharmacist: Safety Alignment Data Curation for Large Language Models against Harmful Fine-tuning
von: Liu, Guozhi, et al.
Veröffentlicht: (2025)

Attacking LLMs and AI Agents: Advertisement Embedding Attacks Against Large Language Models
von: Guo, Qiming, et al.
Veröffentlicht: (2025)

Towards Understanding the Fragility of Multilingual LLMs against Fine-Tuning Attacks
von: Poppi, Samuele, et al.
Veröffentlicht: (2024)

Attention Tracker: Detecting Prompt Injection Attacks in LLMs
von: Hung, Kuo-Han, et al.
Veröffentlicht: (2024)

ARVO: Atlas of Reproducible Vulnerabilities for Open Source Software
von: Mei, Xiang, et al.
Veröffentlicht: (2024)

Jailbreaking Leading Safety-Aligned LLMs with Simple Adaptive Attacks
von: Andriushchenko, Maksym, et al.
Veröffentlicht: (2024)

Jailbreaking LLMs Without Gradients or Priors: Effective and Transferable Attacks
von: Nurlanov, Zhakshylyk, et al.
Veröffentlicht: (2026)

Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs
von: Panfilov, Alexander, et al.
Veröffentlicht: (2026)

Trusted Weights, Treacherous Optimizations? Optimization-Triggered Backdoor Attacks on LLMs
von: Wang, Yifei, et al.
Veröffentlicht: (2026)

GenBFA: An Evolutionary Optimization Approach to Bit-Flip Attacks on LLMs
von: Das, Sanjay, et al.
Veröffentlicht: (2024)

Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs
von: Yuan, Leitao, et al.
Veröffentlicht: (2026)

Quantum Machine Learning for Cybersecurity: A Taxonomy and Future Directions
von: Sai, Siva, et al.
Veröffentlicht: (2025)

Empirical Analysis of Adversarial Robustness and Explainability Drift in Cybersecurity Classifiers
von: Rajhans, Mona, et al.
Veröffentlicht: (2026)

Large Language Models in Cybersecurity: Applications, Vulnerabilities, and Defense Techniques
von: Jaffal, Niveen O., et al.
Veröffentlicht: (2025)

No, of Course I Can! Deeper Fine-Tuning Attacks That Bypass Token-Level Safety Mechanisms
von: Kazdan, Joshua, et al.
Veröffentlicht: (2025)

GI-PIP: Do We Require Impractical Auxiliary Dataset for Gradient Inversion Attacks?
von: Sun, Yu, et al.
Veröffentlicht: (2024)

CLASP: Training-Free LLM-Assisted Source Code Watermarking via Semantic-Preserving Transformations
von: Xu, Rui, et al.
Veröffentlicht: (2025)

On TinyML and Cybersecurity: Electric Vehicle Charging Infrastructure Use Case
von: Dehrouyeh, Fatemeh, et al.
Veröffentlicht: (2024)

SecureBERT 2.0: Advanced Language Model for Cybersecurity Intelligence
von: Aghaei, Ehsan, et al.
Veröffentlicht: (2025)

A Review of Digital Twins and their Application in Cybersecurity based on Artificial Intelligence
von: Homaei, MohammadHossein, et al.
Veröffentlicht: (2023)

LeakSealer: A Semisupervised Defense for LLMs Against Prompt Injection and Leakage Attacks
von: Panebianco, Francesco, et al.
Veröffentlicht: (2025)

Guiding not Forcing: Enhancing the Transferability of Jailbreaking Attacks on LLMs via Removing Superfluous Constraints
von: Yang, Junxiao, et al.
Veröffentlicht: (2025)

SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection
von: Chen, Shuhao, et al.
Veröffentlicht: (2026)

The Inadequacy of Similarity-based Privacy Metrics: Privacy Attacks against "Truly Anonymous" Synthetic Datasets
von: Ganev, Georgi, et al.
Veröffentlicht: (2023)

CTIGuardian: A Few-Shot Framework for Mitigating Privacy Leakage in Fine-Tuned LLMs
von: Arachchige, Shashie Dilhara Batan, et al.
Veröffentlicht: (2025)

CyberGym: Evaluating AI Agents' Real-World Cybersecurity Capabilities at Scale
von: Wang, Zhun, et al.
Veröffentlicht: (2025)