Buchumschlag

Aligning Large Language Models from Self-Reference AI Feedback with one General Principle

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Bao, Rong, Zheng, Rui, Dou, Shihan, Wang, Xiao, Zhou, Enyu, Wang, Bo, Zhang, Qi, Ding, Liang, Tao, Dacheng
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Uncertainty Aware Learning for Language Model Alignment
von: Wang, Yikun, et al.
Veröffentlicht: (2024)

Linear Alignment: A Closed-form Solution for Aligning Human Preferences without Tuning and Feedback
von: Gao, Songyang, et al.
Veröffentlicht: (2024)

StepCoder: Improve Code Generation with Reinforcement Learning from Compiler Feedback
von: Dou, Shihan, et al.
Veröffentlicht: (2024)

RMB: Comprehensively Benchmarking Reward Models in LLM Alignment
von: Zhou, Enyu, et al.
Veröffentlicht: (2024)

LoRAMoE: Alleviate World Knowledge Forgetting in Large Language Models via MoE-Style Plugin
von: Dou, Shihan, et al.
Veröffentlicht: (2023)

OOP: Object-Oriented Programming Evaluation Benchmark for Large Language Models
von: Wang, Shuai, et al.
Veröffentlicht: (2024)

Better, Faster: Harnessing Self-Improvement in Large Reasoning Models
von: Zhong, Qihuang, et al.
Veröffentlicht: (2026)

Revisiting Catastrophic Forgetting in Large Language Model Tuning
von: Li, Hongyu, et al.
Veröffentlicht: (2024)

ROSE Doesn't Do That: Boosting the Safety of Instruction-Tuned Large Language Models with Reverse Prompt Contrastive Decoding
von: Zhong, Qihuang, et al.
Veröffentlicht: (2024)

Reason-KE++: Aligning the Process, Not Just the Outcome, for Faithful LLM Knowledge Editing
von: Wu, Yuchen, et al.
Veröffentlicht: (2025)

Steering LLMs via Scalable Interactive Oversight
von: Zhou, Enyu, et al.
Veröffentlicht: (2026)

Internal Consistency and Self-Feedback in Large Language Models: A Survey
von: Liang, Xun, et al.
Veröffentlicht: (2024)

CodeChameleon: Personalized Encryption Framework for Jailbreaking Large Language Models
von: Lv, Huijie, et al.
Veröffentlicht: (2024)

SafeAligner: Safety Alignment against Jailbreak Attacks via Response Disparity Guidance
von: Huang, Caishuang, et al.
Veröffentlicht: (2024)

MetaRM: Shifted Distributions Alignment via Meta-Learning
von: Dou, Shihan, et al.
Veröffentlicht: (2024)

Review of Hallucination Understanding in Large Language and Vision Models
von: Ho, Zhengyi, et al.
Veröffentlicht: (2025)

ChatGLM-RLHF: Practices of Aligning Large Language Models with Human Feedback
von: Hou, Zhenyu, et al.
Veröffentlicht: (2024)

InfoRM: Mitigating Reward Hacking in RLHF via Information-Theoretic Reward Modeling
von: Miao, Yuchun, et al.
Veröffentlicht: (2024)

Information-Theoretic Reward Modeling for Stable RLHF: Detecting and Mitigating Reward Hacking
von: Miao, Yuchun, et al.
Veröffentlicht: (2025)

Divide, Conquer and Combine: A Training-Free Framework for High-Resolution Image Perception in Multimodal Large Language Models
von: Wang, Wenbin, et al.
Veröffentlicht: (2024)

E2S2: Encoding-Enhanced Sequence-to-Sequence Pretraining for Language Understanding and Generation
von: Zhong, Qihuang, et al.
Veröffentlicht: (2022)

A Critical Evaluation of AI Feedback for Aligning Large Language Models
von: Sharma, Archit, et al.
Veröffentlicht: (2024)

A Survey of Safety on Large Vision-Language Models: Attacks, Defenses and Evaluations
von: Ye, Mang, et al.
Veröffentlicht: (2025)

RL from Physical Feedback: Aligning Large Motion Models with Humanoid Control
von: Yue, Junpeng, et al.
Veröffentlicht: (2025)

Self-Powered LLM Modality Expansion for Large Speech-Text Models
von: Yu, Tengfei, et al.
Veröffentlicht: (2024)

Improving RL Exploration for LLM Reasoning through Retrospective Replay
von: Dou, Shihan, et al.
Veröffentlicht: (2025)

Secrets of RLHF in Large Language Models Part II: Reward Modeling
von: Wang, Binghai, et al.
Veröffentlicht: (2024)

Align Anything: Training All-Modality Models to Follow Instructions with Language Feedback
von: Ji, Jiaming, et al.
Veröffentlicht: (2024)

Fairness Mediator: Neutralize Stereotype Associations to Mitigate Bias in Large Language Models
von: Xiao, Yisong, et al.
Veröffentlicht: (2025)

Learn to Think: Improving Multimodal Reasoning through Vision-Aware Self-Improvement Training
von: Zhong, Qihuang, et al.
Veröffentlicht: (2026)

Visual Superordinate Abstraction for Robust Concept Learning
von: Zheng, Qi, et al.
Veröffentlicht: (2022)

FGAIF: Aligning Large Vision-Language Models with Fine-grained AI Feedback
von: Jing, Liqiang, et al.
Veröffentlicht: (2024)

VLFeedback: A Large-Scale AI Feedback Dataset for Large Vision-Language Models Alignment
von: Li, Lei, et al.
Veröffentlicht: (2024)

Revisiting Knowledge Distillation for Autoregressive Language Models
von: Zhong, Qihuang, et al.
Veröffentlicht: (2024)

SeRL: Self-Play Reinforcement Learning for Large Language Models with Limited Data
von: Fang, Wenkai, et al.
Veröffentlicht: (2025)

ESceme: Vision-and-Language Navigation with Episodic Scene Memory
von: Zheng, Qi, et al.
Veröffentlicht: (2023)

SAIL: Self-Amplified Iterative Learning for Diffusion Model Alignment with Minimal Human Feedback
von: He, Xiaoxuan, et al.
Veröffentlicht: (2026)

Revisiting Jailbreaking for Large Language Models: A Representation Engineering Perspective
von: Li, Tianlong, et al.
Veröffentlicht: (2024)

NoVo: Norm Voting off Hallucinations with Attention Heads in Large Language Models
von: Ho, Zheng Yi, et al.
Veröffentlicht: (2024)

Error Analysis Prompting Enables Human-Like Translation Evaluation in Large Language Models
von: Lu, Qingyu, et al.
Veröffentlicht: (2023)