Buchumschlag

Extracting and Understanding the Superficial Knowledge in Alignment

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chen, Runjin, Perin, Gabriel Jacob, Chen, Xuxi, Chen, Xilun, Han, Yan, Hirata, Nina S. T., Hong, Junyuan, Kailkhura, Bhavya
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

LoX: Low-Rank Extrapolation Robustifies LLM Safety Against Fine-tuning
von: Perin, Gabriel J., et al.
Veröffentlicht: (2025)

SEAL: Steerable Reasoning Calibration of Large Language Models for Free
von: Chen, Runjin, et al.
Veröffentlicht: (2025)

LLMs Can Get "Brain Rot": A Pilot Study on Twitter/X
von: Xing, Shuo, et al.
Veröffentlicht: (2025)

The Fragility of Chain-of-Thought Monitoring Across Typologically Diverse Languages
von: Onyame, Eric, et al.
Veröffentlicht: (2026)

UProp: Investigating the Uncertainty Propagation of LLMs in Multi-Step Agentic Decision-Making
von: Duan, Jinhao, et al.
Veröffentlicht: (2025)

STAR-1: Safer Alignment of Reasoning LLMs with 1K Data
von: Wang, Zijun, et al.
Veröffentlicht: (2025)

LLM Unlearning Reveals a Stronger-Than-Expected Coreset Effect in Current Benchmarks
von: Pal, Soumyadeep, et al.
Veröffentlicht: (2025)

FLAME: Factuality-Aware Alignment for Large Language Models
von: Lin, Sheng-Chieh, et al.
Veröffentlicht: (2024)

Revisiting the Superficial Alignment Hypothesis
von: Raghavendra, Mohit, et al.
Veröffentlicht: (2024)

Improving Long Text Understanding with Knowledge Distilled from Summarization Model
von: Liu, Yan, et al.
Veröffentlicht: (2024)

FACTORY: A Challenging Human-Verified Prompt Set for Long-Form Factuality
von: Chen, Mingda, et al.
Veröffentlicht: (2025)

Low-rank finetuning for LLMs: A fairness perspective
von: Das, Saswat, et al.
Veröffentlicht: (2024)

Decoding Compressed Trust: Scrutinizing the Trustworthiness of Efficient LLMs Under Compression
von: Hong, Junyuan, et al.
Veröffentlicht: (2024)

DERA: Dense Entity Retrieval for Entity Alignment in Knowledge Graphs
von: Wang, Zhichun, et al.
Veröffentlicht: (2024)

Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense
von: Ouyang, Yang, et al.
Veröffentlicht: (2025)

Superficial Safety Alignment Hypothesis
von: Li, Jianwei, et al.
Veröffentlicht: (2024)

Knowledgeable Preference Alignment for LLMs in Domain-specific Question Answering
von: Zhang, Yichi, et al.
Veröffentlicht: (2023)

Two Heads Are Better Than One: Integrating Knowledge from Knowledge Graphs and Large Language Models for Entity Alignment
von: Yang, Linyao, et al.
Veröffentlicht: (2024)

GTBench: Uncovering the Strategic Reasoning Limitations of LLMs via Game-Theoretic Evaluations
von: Duan, Jinhao, et al.
Veröffentlicht: (2024)

Towards Understanding and Improving Knowledge Distillation for Neural Machine Translation
von: Zhang, Songming, et al.
Veröffentlicht: (2023)

Krul: Efficient State Restoration for Multi-turn Conversations with Dynamic Cross-layer KV Sharing
von: Wen, Junyi, et al.
Veröffentlicht: (2025)

LLM-Align: Utilizing Large Language Models for Entity Alignment in Knowledge Graphs
von: Chen, Xuan, et al.
Veröffentlicht: (2024)

SudoLM: Learning Access Control of Parametric Knowledge with Authorization Alignment
von: Liu, Qin, et al.
Veröffentlicht: (2024)

From Superficial Patterns to Semantic Understanding: Fine-Tuning Language Models on Contrast Sets
von: Petrov, Daniel
Veröffentlicht: (2025)

CrossIn: An Efficient Instruction Tuning Approach for Cross-Lingual Knowledge Alignment
von: Lin, Geyu, et al.
Veröffentlicht: (2024)

Can LLMs Estimate Student Struggles? Human-AI Difficulty Alignment with Proficiency Simulation for Item Difficulty Prediction
von: Li, Ming, et al.
Veröffentlicht: (2025)

Shifting Attention to Relevance: Towards the Predictive Uncertainty Quantification of Free-Form Large Language Models
von: Duan, Jinhao, et al.
Veröffentlicht: (2023)

Learning Facts at Scale with Active Reading
von: Lin, Jessy, et al.
Veröffentlicht: (2025)

RA-DIT: Retrieval-Augmented Dual Instruction Tuning
von: Lin, Xi Victoria, et al.
Veröffentlicht: (2023)

Safety Alignment Can Be Not Superficial With Explicit Safety Signals
von: Li, Jianwei, et al.
Veröffentlicht: (2025)

Condor: Enhance LLM Alignment with Knowledge-Driven Data Synthesis and Refinement
von: Cao, Maosong, et al.
Veröffentlicht: (2025)

When Style Breaks Safety: Defending LLMs Against Superficial Style Alignment
von: Xiao, Yuxin, et al.
Veröffentlicht: (2025)

Inverse Scaling in Test-Time Compute
von: Gema, Aryo Pradipta, et al.
Veröffentlicht: (2025)

TruthPrInt: Mitigating Large Vision-Language Models Object Hallucination Via Latent Truthful-Guided Pre-Intervention
von: Duan, Jinhao, et al.
Veröffentlicht: (2025)

Post-training an LLM for RAG? Train on Self-Generated Demonstrations
von: Finlayson, Matthew, et al.
Veröffentlicht: (2025)

Large Knowledge Model: Perspectives and Challenges
von: Chen, Huajun
Veröffentlicht: (2023)

Understanding Layer Significance in LLM Alignment
von: Shi, Guangyuan, et al.
Veröffentlicht: (2024)

Knowledge-Level Consistency Reinforcement Learning: Dual-Fact Alignment for Long-Form Factuality
von: Li, Junliang, et al.
Veröffentlicht: (2025)

SKA-Bench: A Fine-Grained Benchmark for Evaluating Structured Knowledge Understanding of LLMs
von: Liu, Zhiqiang, et al.
Veröffentlicht: (2025)

Scaling Textual Gradients via Sampling-Based Momentum
von: Ding, Zixin, et al.
Veröffentlicht: (2025)