Buchumschlag

GPT in Sheep's Clothing: The Risk of Customized GPTs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Antebi, Sagiv, Azulay, Noam, Habler, Edan, Ganon, Ben, Shabtai, Asaf, Elovici, Yuval
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Cryptography and Security Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Tag&Tab: Pretraining Data Detection in Large Language Models Using Keyword-Based Membership Inference Attack
von: Antebi, Sagiv, et al.
Veröffentlicht: (2025)

LexiMark: Robust Watermarking via Lexical Substitutions to Enhance Membership Verification of an LLM's Textual Training Data
von: German, Eyal, et al.
Veröffentlicht: (2025)

From Tool Orchestration to Code Execution: A Study of MCP Design Choices
von: Felendler, Yuval, et al.
Veröffentlicht: (2026)

Tab-MIA: A Benchmark Dataset for Membership Inference Attacks on Tabular Data in LLMs
von: German, Eyal, et al.
Veröffentlicht: (2025)

Mind the Web: The Security of Web Use Agents
von: Shapira, Avishag, et al.
Veröffentlicht: (2025)

MIA-EPT: Membership Inference Attack via Error Prediction for Tabular Data
von: German, Eyal, et al.
Veröffentlicht: (2025)

DOMBA: Double Model Balancing for Access-Controlled Language Models via Minimum-Bounded Aggregation
von: Segal, Tom, et al.
Veröffentlicht: (2024)

SecMate: Multi-Agent Adaptive Cybersecurity Troubleshooting with Tri-Context Personalization
von: Meidan, Yair, et al.
Veröffentlicht: (2026)

AgentGuardian: Learning Access Control Policies to Govern AI Agent Behavior
von: Abaev, Nadya, et al.
Veröffentlicht: (2026)

ATAG: AI-Agent Application Threat Assessment with Attack Graphs
von: Gandhi, Parth Atulbhai, et al.
Veröffentlicht: (2025)

Assessing Prompt Injection Risks in 200+ Custom GPTs
von: Yu, Jiahao, et al.
Veröffentlicht: (2023)

SoK: Cybersecurity Assessment of Humanoid Ecosystem
von: Surve, Priyanka Prakash, et al.
Veröffentlicht: (2025)

RAPID: Robust APT Detection and Investigation Using Context-Aware Deep Learning
von: Amaru, Yonatan, et al.
Veröffentlicht: (2024)

Real-World Adversarial Attacks on RF-Based Drone Detectors
von: Gazit, Omer, et al.
Veröffentlicht: (2025)

LumiMAS: A Comprehensive Framework for Real-Time Monitoring and Enhanced Observability in Multi-Agent Systems
von: Solomon, Ron, et al.
Veröffentlicht: (2025)

RuleGenie: SIEM Detection Rule Set Optimization
von: Shukla, Akansha, et al.
Veröffentlicht: (2025)

FAA Framework: A Large Language Model-Based Approach for Credit Card Fraud Investigations
von: Shuster, Shaun, et al.
Veröffentlicht: (2025)

LLMCloudHunter: Harnessing LLMs for Automated Extraction of Detection Rules from Cloud-Based CTI
von: Schwartz, Yuval, et al.
Veröffentlicht: (2024)

Detection of Compromised Functions in a Serverless Cloud Environment
von: Lavi, Danielle, et al.
Veröffentlicht: (2024)

Rogue Cell: Adversarial Attack and Defense in Untrusted O-RAN Setup Exploiting the Traffic Steering xApp
von: Aizikovich, Eran, et al.
Veröffentlicht: (2025)

QuantAttack: Exploiting Dynamic Quantization to Attack Vision Transformers
von: Baras, Amit, et al.
Veröffentlicht: (2023)

UEFI Memory Forensics: A Framework for UEFI Threat Analysis
von: Segal, Kalanit Suzan, et al.
Veröffentlicht: (2025)

SHIELD: APT Detection and Intelligent Explanation Using LLM
von: Gandhi, Parth Atulbhai, et al.
Veröffentlicht: (2025)

FreakOut-LLM: The Effect of Emotional Stimuli on Safety Alignment
von: Kuznetsov, Daniel, et al.
Veröffentlicht: (2026)

Peacock: UEFI Firmware Runtime Observability Layer for Detection and Response
von: Gorelik, Hadar Cochavi, et al.
Veröffentlicht: (2026)

Towards an End-to-End (E2E) Adversarial Learning and Application in the Physical World
von: Biton, Dudi, et al.
Veröffentlicht: (2025)

Privacy and Security Threat for OpenAI GPTs
von: Wenying, Wei, et al.
Veröffentlicht: (2025)

Enterprise-Grade Security for the Model Context Protocol (MCP): Frameworks and Mitigation Strategies
von: Narajala, Vineeth Sai, et al.
Veröffentlicht: (2025)

Rule-ATT&CK Mapper (RAM): Mapping SIEM Rules to TTPs Using LLMs
von: Wudali, Prasanna N., et al.
Veröffentlicht: (2025)

LISAA: A Framework for Large Language Model Information Security Awareness Assessment
von: Cohen, Ofir, et al.
Veröffentlicht: (2024)

DeSparsify: Adversarial Attack Against Token Sparsification Mechanisms in Vision Transformers
von: Yehezkel, Oryan, et al.
Veröffentlicht: (2024)

KubeGuard: LLM-Assisted Kubernetes Hardening via Configuration Files and Runtime Logs Analysis
von: Cohen, Omri Sgan, et al.
Veröffentlicht: (2025)

Finding a Wolf in Sheep's Clothing: Combating Adversarial Text-To-Image Prompts with Text Summarization
von: Cooper, Portia, et al.
Veröffentlicht: (2024)

Securing GenAI Multi-Agent Systems Against Tool Squatting: A Zero Trust Registry-Based Approach
von: Narajala, Vineeth Sai, et al.
Veröffentlicht: (2025)

A Large-Scale Empirical Analysis of Custom GPTs' Vulnerabilities in the OpenAI Ecosystem
von: Ogundoyin, Sunday Oyinlola, et al.
Veröffentlicht: (2025)

GenKubeSec: LLM-Based Kubernetes Misconfiguration Detection, Localization, Reasoning, and Remediation
von: Malul, Ehud, et al.
Veröffentlicht: (2024)

Building A Secure Agentic AI Application Leveraging A2A Protocol
von: Habler, Idan, et al.
Veröffentlicht: (2025)

Adversarial Hubness Detector: Detecting Hubness Poisoning in Retrieval-Augmented Generation Systems
von: Habler, Idan, et al.
Veröffentlicht: (2026)

Observability and Incident Response in Managed Serverless Environments Using Ontology-Based Log Monitoring
von: Ben-Shimol, Lavi, et al.
Veröffentlicht: (2024)

ETDI: Mitigating Tool Squatting and Rug Pull Attacks in Model Context Protocol (MCP) by using OAuth-Enhanced Tool Definitions and Policy-Based Access Control
von: Bhatt, Manish, et al.
Veröffentlicht: (2025)