Buchumschlag

SoFA: Shielded On-the-fly Alignment via Priority Rule Following

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Lu, Xinyu, Yu, Bowen, Lu, Yaojie, Lin, Hongyu, Yu, Haiyang, Sun, Le, Han, Xianpei, Li, Yongbin
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Transferable Post-training via Inverse Value Learning
von: Lu, Xinyu, et al.
Veröffentlicht: (2024)

DeepSolution: Boosting Complex Engineering Solution Design via Tree-based Exploration and Bi-point Thinking
von: Li, Zhuoqun, et al.
Veröffentlicht: (2025)

Rule or Story, Which is a Better Commonsense Expression for Talking with Large Language Models?
von: Bian, Ning, et al.
Veröffentlicht: (2024)

StructRAG: Boosting Knowledge Intensive Reasoning of LLMs via Inference-time Hybrid Information Structurization
von: Li, Zhuoqun, et al.
Veröffentlicht: (2024)

A Unified View of Delta Parameter Editing in Post-Trained Large-Scale Models
von: Tang, Qiaoyu, et al.
Veröffentlicht: (2024)

RefCritic: Training Long Chain-of-Thought Critic Models with Refinement Feedback
von: Tang, Qiaoyu, et al.
Veröffentlicht: (2025)

Meta-Cognitive Analysis: Evaluating Declarative and Procedural Knowledge in Datasets and Large Language Models
von: Li, Zhuoqun, et al.
Veröffentlicht: (2024)

Towards Scalable Automated Alignment of LLMs: A Survey
von: Cao, Boxi, et al.
Veröffentlicht: (2024)

REInstruct: Building Instruction Data from Unlabeled Corpus
von: Chen, Shu, et al.
Veröffentlicht: (2024)

Open Grounded Planning: Challenges and Benchmark Construction
von: Guo, Shiguang, et al.
Veröffentlicht: (2024)

LiteCoder-Terminal: Scaling Long-Horizon Terminal Environments for Learning Language Agents
von: Peng, Xiaoxuan, et al.
Veröffentlicht: (2026)

Self-Retrieval: End-to-End Information Retrieval with One Large Language Model
von: Tang, Qiaoyu, et al.
Veröffentlicht: (2024)

Few-shot Named Entity Recognition via Superposition Concept Discrimination
von: Chen, Jiawei, et al.
Veröffentlicht: (2024)

Vision-OPD: Learning to See Fine Details for Multimodal LLMs via On-Policy Self-Distillation
von: Yuan, Qianhao, et al.
Veröffentlicht: (2026)

Executing Natural Language-Described Algorithms with Large Language Models: An Investigation
von: Zheng, Xin, et al.
Veröffentlicht: (2024)

Search, Verify and Feedback: Towards Next Generation Post-training Paradigm of Foundation Models via Verifier Engineering
von: Guan, Xinyan, et al.
Veröffentlicht: (2024)

Self-Steering Optimization: Autonomous Preference Optimization for Large Language Models
von: Xiang, Hao, et al.
Veröffentlicht: (2024)

On-Policy Self-Alignment with Fine-grained Knowledge Feedback for Hallucination Mitigation
von: Wen, Xueru, et al.
Veröffentlicht: (2024)

Multi-Facet Counterfactual Learning for Content Quality Evaluation
von: Zheng, Jiasheng, et al.
Veröffentlicht: (2024)

PaperRegister: Boosting Flexible-grained Paper Search via Hierarchical Register Indexing
von: Li, Zhuoqun, et al.
Veröffentlicht: (2025)

Combinatorial Synthesis: Scaling Code RLVR via Atomic Decomposition and Recombination
von: Zheng, Jiasheng, et al.
Veröffentlicht: (2026)

Rethinking Reward Model Evaluation: Are We Barking up the Wrong Tree?
von: Wen, Xueru, et al.
Veröffentlicht: (2024)

SAISA: Towards Multimodal Large Language Models with Both Training and Inference Efficiency
von: Yuan, Qianhao, et al.
Veröffentlicht: (2025)

Extend Model Merging from Fine-Tuned to Pre-Trained Large Language Models via Weight Disentanglement
von: Yu, Le, et al.
Veröffentlicht: (2024)

Seg2Act: Global Context-aware Action Generation for Document Logical Structuring
von: Li, Zichao, et al.
Veröffentlicht: (2024)

Learning from Failures: Correction-Oriented Policy Optimization with Verifiable Rewards
von: Ren, Mengjie, et al.
Veröffentlicht: (2026)

ChatGPT is a Knowledgeable but Inexperienced Solver: An Investigation of Commonsense Problem in Large Language Models
von: Bian, Ning, et al.
Veröffentlicht: (2023)

MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning
von: Yuan, Qianhao, et al.
Veröffentlicht: (2025)

READoc: A Unified Benchmark for Realistic Document Structured Extraction
von: Li, Zichao, et al.
Veröffentlicht: (2024)

Beyond Correctness: Benchmarking Multi-dimensional Code Generation for Large Language Models
von: Zheng, Jiasheng, et al.
Veröffentlicht: (2024)

URL: Universal Referential Knowledge Linking via Task-instructed Representation Compression
von: Li, Zhuoqun, et al.
Veröffentlicht: (2024)

Critic-CoT: Boosting the reasoning abilities of large language model via Chain-of-thoughts Critic
von: Zheng, Xin, et al.
Veröffentlicht: (2024)

The Rise and Down of Babel Tower: Investigating the Evolution Process of Multilingual Code Large Language Model
von: Chen, Jiawei, et al.
Veröffentlicht: (2024)

Language Models are Super Mario: Absorbing Abilities from Homologous Models as a Free Lunch
von: Yu, Le, et al.
Veröffentlicht: (2023)

RMTBench: Benchmarking LLMs Through Multi-Turn User-Centric Role-Playing
von: Xiang, Hao, et al.
Veröffentlicht: (2025)

Your Teacher Can't Help You Here: Combating Supervision Fidelity Decay in On-Policy Distillation
von: Liu, Yanjiang, et al.
Veröffentlicht: (2026)

The Life Cycle of Knowledge in Big Language Models: A Survey
von: Cao, Boxi, et al.
Veröffentlicht: (2023)

Beyond Turn Limits: Training Deep Search Agents with Dynamic Context Window
von: Tang, Qiaoyu, et al.
Veröffentlicht: (2025)

Coupled Variational Reinforcement Learning for Language Model General Reasoning
von: Wen, Xueru, et al.
Veröffentlicht: (2025)

When Models Outthink Their Safety: Unveiling and Mitigating Self-Jailbreak in Large Reasoning Models
von: Mao, Yingzhi, et al.
Veröffentlicht: (2025)