Buchumschlag

MoGU: A Framework for Enhancing Safety of Open-Sourced LLMs While Preserving Their Usability

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Du, Yanrui, Zhao, Sendong, Zhao, Danyang, Ma, Ming, Chen, Yuhan, Huo, Liangyu, Yang, Qing, Xu, Dongliang, Qin, Bing
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MoGU V2: Toward a Higher Pareto Frontier Between Model Usability and Security
von: Du, Yanrui, et al.
Veröffentlicht: (2025)

Analyzing the Inherent Response Tendency of LLMs: Real-World Instructions-Driven Jailbreak
von: Du, Yanrui, et al.
Veröffentlicht: (2023)

Don't Ignore Dual Logic Ability of LLMs while Privatizing: A Data-Intensive Analysis in Medical Domain
von: Du, Yanrui, et al.
Veröffentlicht: (2023)

How does Architecture Influence the Base Capabilities of Pre-trained Language Models? A Case Study Based on FFN-Wider and MoE Transformers
von: Lu, Xin, et al.
Veröffentlicht: (2024)

MoGU: Mixture-of-Gaussians with Uncertainty-based Gating for Time Series Forecasting
von: Aviv, Gilad, et al.
Veröffentlicht: (2025)

MolTailor: Tailoring Chemical Molecular Representation to Specific Tasks via Text Prompts
von: Guo, Haoqiang, et al.
Veröffentlicht: (2024)

Toward Secure Tuning: Mitigating Security Risks from Instruction Fine-Tuning
von: Du, Yanrui, et al.
Veröffentlicht: (2024)

From Artificially Real to Real: Leveraging Pseudo Data from Large Language Models for Low-Resource Molecule Discovery
von: Chen, Yuhan, et al.
Veröffentlicht: (2023)

S3-CoT: Self-Sampled Succinct Reasoning Enables Efficient Chain-of-Thought LLMs
von: Du, Yanrui, et al.
Veröffentlicht: (2026)

SL-BiLEM: Structured Learnable Behavior-in-the-Loop Epidemic Modeling for Forecasting and Policy Evaluation
von: Wang, Haochun, et al.
Veröffentlicht: (2026)

Anchoring Refusal Direction: Mitigating Safety Risks in Tuning via Projection Constraint
von: Du, Yanrui, et al.
Veröffentlicht: (2025)

MolFusion: Multimodal Fusion Learning for Molecular Representations via Multi-granularity Views
von: Cai, Muzhen, et al.
Veröffentlicht: (2024)

OptiSet: Unified Optimizing Set Selection and Ranking for Retrieval-Augmented Generation
von: Jiang, Yi, et al.
Veröffentlicht: (2026)

From Latent Signals to Reflection Behavior: Tracing Meta-Cognitive Activation Trajectory in R1-Style LLMs
von: Du, Yanrui, et al.
Veröffentlicht: (2026)

AS-ES Learning: Towards Efficient CoT Learning in Small Models
von: Xi, Nuwa, et al.
Veröffentlicht: (2024)

LLMs May Perform MCQA by Selecting the Least Incorrect Option
von: Wang, Haochun, et al.
Veröffentlicht: (2024)

Uncovering the Role of Initial Saliency in U-Shaped Attention Bias: Scaling Initial Token Weight for Enhanced Long-Text Processing
von: Qiang, Zewen, et al.
Veröffentlicht: (2025)

MoL for LLMs: Dual-Loss Optimization to Enhance Domain Expertise While Preserving General Capabilities
von: Chen, Jingxue, et al.
Veröffentlicht: (2025)

Knowledge-tuning Large Language Models with Structured Medical Knowledge Bases for Reliable Response Generation in Chinese
von: Wang, Haochun, et al.
Veröffentlicht: (2023)

Beyond Frameworks: Unpacking Collaboration Strategies in Multi-Agent Systems
von: Wang, Haochun, et al.
Veröffentlicht: (2025)

When Correct Beliefs Collapse: Epistemic Resilience of LLMs under Clinical Pressure
von: Xiao, Boyu, et al.
Veröffentlicht: (2026)

META-RAG: Meta-Analysis-Inspired Evidence-Re-Ranking Method for Retrieval-Augmented Generation in Evidence-Based Medicine
von: Sun, Mengzhou, et al.
Veröffentlicht: (2025)

GainRAG: Preference Alignment in Retrieval-Augmented Generation through Gain Signal Synthesis
von: Jiang, Yi, et al.
Veröffentlicht: (2025)

GSEM: Graph-based Self-Evolving Memory for Experience Augmented Clinical Reasoning
von: Han, Xiao, et al.
Veröffentlicht: (2026)

CFSP: An Efficient Structured Pruning Framework for LLMs with Coarse-to-Fine Activation Information
von: Wang, Yuxin, et al.
Veröffentlicht: (2024)

OSS-UAgent: An Agent-based Usability Evaluation Framework for Open Source Software
von: Meng, Lingkai, et al.
Veröffentlicht: (2025)

M-Eval: A Heterogeneity-Based Framework for Multi-evidence Validation in Medical RAG Systems
von: Sun, Mengzhou, et al.
Veröffentlicht: (2025)

Beyond Direct Diagnosis: LLM-based Multi-Specialist Agent Consultation for Automatic Diagnosis
von: Wang, Haochun, et al.
Veröffentlicht: (2024)

ArcAligner: Adaptive Recursive Aligner for Compressed Context Embeddings in RAG
von: Li, Jianbo, et al.
Veröffentlicht: (2026)

PICOs-RAG: PICO-supported Query Rewriting for Retrieval-Augmented Generation in Evidence-Based Medicine
von: Sun, Mengzhou, et al.
Veröffentlicht: (2025)

SAPT: A Shared Attention Framework for Parameter-Efficient Continual Learning of Large Language Models
von: Zhao, Weixiang, et al.
Veröffentlicht: (2024)

Generalized block diagonal Laplacian spectrum of graphs
von: Xu, Yanrui, et al.
Veröffentlicht: (2025)

NOIR: Privacy-Preserving Generation of Code with Open-Source LLMs
von: Nguyen, Khoa, et al.
Veröffentlicht: (2026)

Bypassing the Safety Training of Open-Source LLMs with Priming Attacks
von: Vega, Jason, et al.
Veröffentlicht: (2023)

CoCoA: Collaborative Chain-of-Agents for Parametric-Retrieved Knowledge Synergy
von: Jiang, Yi, et al.
Veröffentlicht: (2025)

Manifold-based Verbalizer Space Re-embedding for Tuning-free Prompt-based Classification
von: Wang, Haochun, et al.
Veröffentlicht: (2023)

Orchestrating Intelligence: Confidence-Aware Routing for Efficient Multi-Agent Collaboration across Multi-Scale Models
von: Wang, Jingbo, et al.
Veröffentlicht: (2026)

Safety Geometry Collapse in Multimodal LLMs and Adaptive Drift Correction
von: Guo, Jiahe, et al.
Veröffentlicht: (2026)

InfiniteYou: Flexible Photo Recrafting While Preserving Your Identity
von: Jiang, Liming, et al.
Veröffentlicht: (2025)

OpenRT: An Open-Source Red Teaming Framework for Multimodal LLMs
von: Wang, Xin, et al.
Veröffentlicht: (2026)