Buchumschlag

Toxicity Detection for Free

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Hu, Zhanhao, Piet, Julien, Zhao, Geng, Jiao, Jiantao, Wagner, David
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Generative AI Security: Challenges and Countermeasures
von: Zhu, Banghua, et al.
Veröffentlicht: (2024)

Mark My Words: Analyzing and Evaluating Language Model Watermarks
von: Piet, Julien, et al.
Veröffentlicht: (2023)

$k$NNProxy: Efficient Training-Free Proxy Alignment for Black-Box Zero-Shot LLM-Generated Text Detection
von: Wong, Kahim, et al.
Veröffentlicht: (2026)

GradShield: Alignment Preserving Finetuning
von: Hu, Zhanhao, et al.
Veröffentlicht: (2026)

Toward a Theory of Tokenization in LLMs
von: Rajaraman, Nived, et al.
Veröffentlicht: (2024)

Efficient Prompt Caching via Embedding Similarity
von: Zhu, Hanlin, et al.
Veröffentlicht: (2024)

Enhancing LLM-based Hatred and Toxicity Detection with Meta-Toxic Knowledge Graph
von: Zhao, Yibo, et al.
Veröffentlicht: (2024)

Jatmo: Prompt Injection Defense by Task-Specific Finetuning
von: Piet, Julien, et al.
Veröffentlicht: (2023)

Iterative Data Smoothing: Mitigating Reward Overfitting and Overoptimization in RLHF
von: Zhu, Banghua, et al.
Veröffentlicht: (2024)

Beyond Toxic: Toxicity Detection Datasets are Not Enough for Brand Safety
von: Korotkova, Elizaveta, et al.
Veröffentlicht: (2023)

Parser-Free Querying of Security Logs
von: Luo, Evan, et al.
Veröffentlicht: (2026)

JailbreaksOverTime: Detecting Jailbreak Attacks Under Distribution Shift
von: Piet, Julien, et al.
Veröffentlicht: (2025)

Culture Matters in Toxic Language Detection in Persian
von: Bokaei, Zahra, et al.
Veröffentlicht: (2025)

Translate, then Detect: Leveraging Machine Translation for Cross-Lingual Toxicity Classification
von: Bell, Samuel J., et al.
Veröffentlicht: (2025)

Web Agents Should Adopt the Plan-Then-Execute Paradigm
von: Piet, Julien, et al.
Veröffentlicht: (2026)

Exploring Multimodal Challenges in Toxic Chinese Detection: Taxonomy, Benchmark, and Findings
von: Yang, Shujian, et al.
Veröffentlicht: (2025)

Concept-Based Interpretability for Toxicity Detection
von: Garg, Samarth, et al.
Veröffentlicht: (2025)

In-game Toxic Language Detection: Shared Task and Attention Residuals
von: Jia, Yuanzhe, et al.
Veröffentlicht: (2022)

Robust Persona-Aware Toxicity Detection with Prompt Optimization and Learned Ensembling
von: Atil, Berk, et al.
Veröffentlicht: (2026)

Detecting Toxic Language: Ontology and BERT-based Approaches for Bulgarian Text
von: Berbatova, Melania, et al.
Veröffentlicht: (2026)

Finding Pareto Trade-offs in Fair and Accurate Detection of Toxic Speech
von: Gupta, Soumyajit, et al.
Veröffentlicht: (2022)

ToxiTrace: Gradient-Aligned Training for Explainable Chinese Toxicity Detection
von: Li, Boyang, et al.
Veröffentlicht: (2026)

Thinking LLMs: General Instruction Following with Thought Generation
von: Wu, Tianhao, et al.
Veröffentlicht: (2024)

ToXCL: A Unified Framework for Toxic Speech Detection and Explanation
von: Hoang, Nhat M., et al.
Veröffentlicht: (2024)

ViToSA: Audio-Based Toxic Spans Detection on Vietnamese Speech Utterances
von: Do, Huy Ba, et al.
Veröffentlicht: (2025)

Large Language Models for Toxic Language Detection in Low-Resource Balkan Languages
von: Muminovic, Amel, et al.
Veröffentlicht: (2025)

Dialectal Toxicity Detection: Evaluating LLM-as-a-Judge Consistency Across Language Varieties
von: Faisal, Fahim, et al.
Veröffentlicht: (2024)

Toxicity Classification in Ukrainian
von: Dementieva, Daryna, et al.
Veröffentlicht: (2024)

Benchmark on Peer Review Toxic Detection: A Challenging Task with a New Dataset
von: Luo, Man, et al.
Veröffentlicht: (2025)

Towards a Theoretical Understanding of the 'Reversal Curse' via Training Dynamics
von: Zhu, Hanlin, et al.
Veröffentlicht: (2024)

Toxic Memes: A Survey of Computational Perspectives on the Detection and Explanation of Meme Toxicities
von: Pandiani, Delfina Sol Martinez, et al.
Veröffentlicht: (2024)

PolygloToxicityPrompts: Multilingual Evaluation of Neural Toxic Degeneration in Large Language Models
von: Jain, Devansh, et al.
Veröffentlicht: (2024)

FrenchToxicityPrompts: a Large Benchmark for Evaluating and Mitigating Toxicity in French Texts
von: Brun, Caroline, et al.
Veröffentlicht: (2024)

Context-Aware Toxicity Detection in Multiplayer Games: Integrating Domain-Adaptive Pretraining and Match Metadata
von: Schurger-Foy, Adrien, et al.
Veröffentlicht: (2025)

On Bias and Fairness in NLP: Investigating the Impact of Bias and Debiasing in Language Models on the Fairness of Toxicity Detection
von: Elsafoury, Fatma, et al.
Veröffentlicht: (2023)

EmbedLLM: Learning Compact Representations of Large Language Models
von: Zhuang, Richard, et al.
Veröffentlicht: (2024)

Toxicity Red-Teaming: Benchmarking LLM Safety in Singapore's Low-Resource Languages
von: Hu, Yujia, et al.
Veröffentlicht: (2025)

Beyond the Explicit: A Bilingual Dataset for Dehumanization Detection in Social Media
von: Assenmacher, Dennis, et al.
Veröffentlicht: (2025)

GloSS over Toxicity: Understanding and Mitigating Toxicity in LLMs via Global Toxic Subspace
von: Duan, Zenghao, et al.
Veröffentlicht: (2025)

Model Editing as a Robust and Denoised variant of DPO: A Case Study on Toxicity
von: Uppaal, Rheeya, et al.
Veröffentlicht: (2024)