Ruby Teaming: Improving Quality Diversity Search with Memory for Automated Red Teaming

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Han, Vernon Toh Yan, Bhardwaj, Rishabh, Poria, Soujanya
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Ferret: Faster and Effective Automated Red Teaming with Reward-Based Scoring Technique
von: Pala, Tej Deep, et al.
Veröffentlicht: (2024)

Not All Votes Count! Programs as Verifiers Improve Self-Consistency of Language Models for Math Reasoning
von: Toh, Vernon Y. H., et al.
Veröffentlicht: (2024)

DELLA-Merging: Reducing Interference in Model Merging through Magnitude-Based Sampling
von: Deep, Pala Tej, et al.
Veröffentlicht: (2024)

Language Models are Homer Simpson! Safety Re-Alignment of Fine-tuned Language Models through Task Arithmetic
von: Bhardwaj, Rishabh, et al.
Veröffentlicht: (2024)

The Jumping Reasoning Curve? Tracking the Evolution of Reasoning Performance in GPT-[n] and o-[n] Models on Multimodal Puzzles
von: Toh, Vernon Y. H., et al.
Veröffentlicht: (2025)

HyperTTS: Parameter Efficient Adaptation in Text to Speech using Hypernetworks
von: Li, Yingting, et al.
Veröffentlicht: (2024)

SafeSearch: Automated Red-Teaming of LLM-Based Search Agents
von: Dong, Jianshuo, et al.
Veröffentlicht: (2025)

Automated Progressive Red Teaming
von: Jiang, Bojian, et al.
Veröffentlicht: (2024)

Measuring and Enhancing Trustworthiness of LLMs in RAG through Grounded Attributions and Learning to Refuse
von: Song, Maojia, et al.
Veröffentlicht: (2024)

Are Language Models Puzzle Prodigies? Algorithmic Puzzles Unveil Serious Challenges in Multimodal Reasoning
von: Ghosal, Deepanway, et al.
Veröffentlicht: (2024)

Towards Robust Instruction Tuning on Multimodal Large Language Models
von: Han, Wei, et al.
Veröffentlicht: (2024)

STAR-Teaming: A Strategy-Response Multiplex Network Approach to Automated LLM Red Teaming
von: Jung, MinJae, et al.
Veröffentlicht: (2026)

Inference Time Alignment with Reward-Guided Tree Search
von: Hung, Chia-Yu, et al.
Veröffentlicht: (2024)

Stacked from One: Multi-Scale Self-Injection for Context Window Extension
von: Han, Wei, et al.
Veröffentlicht: (2026)

Emma-X: An Embodied Multimodal Action Model with Grounded Chain of Thought and Look-ahead Spatial Reasoning
von: Sun, Qi, et al.
Veröffentlicht: (2024)

PREMISE: Matching-based Prediction for Accurate Review Recommendation
von: Han, Wei, et al.
Veröffentlicht: (2025)

Lessons from Training Grounded LLMs with Verifiable Rewards
von: Sim, Shang Hong, et al.
Veröffentlicht: (2025)

Multi-lingual Multi-turn Automated Red Teaming for LLMs
von: Singhania, Abhishek, et al.
Veröffentlicht: (2025)

Anecdoctoring: Automated Red-Teaming Across Language and Place
von: Cuevas, Alejandro, et al.
Veröffentlicht: (2025)

Prompt Optimization and Evaluation for LLM Automated Red Teaming
von: Freenor, Michael, et al.
Veröffentlicht: (2025)

Two are better than one: Context window extension with multi-grained self-injection
von: Han, Wei, et al.
Veröffentlicht: (2024)

PuzzleVQA: Diagnosing Multimodal Reasoning Challenges of Language Models with Abstract Visual Patterns
von: Chia, Yew Ken, et al.
Veröffentlicht: (2024)

RedTWIZ: Diverse LLM Red Teaming via Adaptive Attack Planning
von: Horal, Artur, et al.
Veröffentlicht: (2025)

SearchAttack: Red-Teaming LLMs against Knowledge-to-Action Threats under Online Web Search
von: Yan, Yu, et al.
Veröffentlicht: (2026)

Post Reasoning: Improving the Performance of Non-Thinking Models at No Cost
von: Xuan, Richmond Sin Jing, et al.
Veröffentlicht: (2026)

Training a General Purpose Automated Red Teaming Model
von: Padmakumar, Aishwarya, et al.
Veröffentlicht: (2026)

AutoRed: A Free-form Adversarial Prompt Generation Framework for Automated Red Teaming
von: Diao, Muxi, et al.
Veröffentlicht: (2025)

RedTopic: Toward Topic-Diverse Red Teaming of Large Language Models
von: Ding, Jiale, et al.
Veröffentlicht: (2025)

VerityMath: Advancing Mathematical Reasoning by Self-Verification Through Unit Consistency
von: Han, Vernon Toh Yan, et al.
Veröffentlicht: (2023)

Adaptive Instruction Composition for Automated LLM Red-Teaming
von: Zymet, Jesse, et al.
Veröffentlicht: (2026)

Learning-Based Automated Adversarial Red-Teaming for Robustness Evaluation of Large Language Models
von: Wei, Zhang, et al.
Veröffentlicht: (2025)

Evaluating AI for Finance: Is AI Credible at Assessing Investment Risk?
von: Chawla, Divij, et al.
Veröffentlicht: (2025)

Red-Teaming Vision-Language-Action Models via Quality Diversity Prompt Generation for Robust Robot Policies
von: Srikanth, Siddharth, et al.
Veröffentlicht: (2026)

Sowing the Wind, Reaping the Whirlwind: The Impact of Editing Language Models
von: Hazra, Rima, et al.
Veröffentlicht: (2024)

Safety Arithmetic: A Framework for Test-time Safety Alignment of Language Models by Steering Parameters and Activations
von: Hazra, Rima, et al.
Veröffentlicht: (2024)

Gradient-Based Language Model Red Teaming
von: Wichers, Nevan, et al.
Veröffentlicht: (2024)

Exploring Straightforward Conversational Red-Teaming
von: Kour, George, et al.
Veröffentlicht: (2024)

The Effect of Gender Diversity on Scientific Team Impact: A Team Roles Perspective
von: Zhao, Yi, et al.
Veröffentlicht: (2025)

T-MAP: Red-Teaming LLM Agents with Trajectory-aware Evolutionary Search
von: Lee, Hyomin, et al.
Veröffentlicht: (2026)

Large Language Models for Automated Open-domain Scientific Hypotheses Discovery
von: Yang, Zonglin, et al.
Veröffentlicht: (2023)