Buchumschlag

Shaping Explanations: Semantic Reward Modeling with Encoder-Only Transformers for GRPO

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Pappone, Francesco, Lazzaroni, Ruggero Marino, Califano, Federico, Gentile, Niccolò, Marras, Roberto
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MedBench-IT: A Comprehensive Benchmark for Evaluating Large Language Models on Italian Medical Entrance Examinations
von: Lazzaroni, Ruggero Marino, et al.
Veröffentlicht: (2025)

GTPO and GRPO-S: Token and Sequence-Level Reward Shaping with Policy Entropy
von: Tan, Hongze, et al.
Veröffentlicht: (2025)

Assessing Logical Reasoning Capabilities of Encoder-Only Transformer Models
von: Pirozelli, Paulo, et al.
Veröffentlicht: (2023)

Bridging the Semantic Gap: Contrastive Rewards for Multilingual Text-to-SQL with GRPO
von: Kattamuri, Ashish, et al.
Veröffentlicht: (2025)

Will LLMs Replace the Encoder-Only Models in Temporal Relation Classification?
von: Roccabruna, Gabriel, et al.
Veröffentlicht: (2024)

Combining Transformers with Natural Language Explanations
von: Ruggeri, Federico, et al.
Veröffentlicht: (2021)

Infini-News: Efficiently Queryable Access to 1.3 Billion Processed Common Crawl News Articles
von: Lazzaroni, Ruggero Marino, et al.
Veröffentlicht: (2026)

Quasi-symbolic Semantic Geometry over Transformer-based Variational AutoEncoder
von: Zhang, Yingji, et al.
Veröffentlicht: (2022)

MMR-GRPO: Accelerating GRPO-Style Training through Diversity-Aware Reward Reweighting
von: Wei, Kangda, et al.
Veröffentlicht: (2026)

RC-GRPO: Reward-Conditioned Group Relative Policy Optimization for Multi-Turn Tool Calling Agents
von: Zhong, Haitian, et al.
Veröffentlicht: (2026)

Tournament-GRPO: Group-Wise Tournament Rewards for Reinforcement Learning in Open-Ended Long-Form Generation
von: Yang, Zixuan, et al.
Veröffentlicht: (2026)

Distill Not Only Data but Also Rewards: Can Smaller Language Models Surpass Larger Ones?
von: Zhang, Yudi, et al.
Veröffentlicht: (2025)

Beyond Semantics: How Temporal Biases Shape Retrieval in Transformer and State-Space Models
von: Bajaj, Anooshka, et al.
Veröffentlicht: (2025)

One Bias After Another: Mechanistic Reward Shaping and Persistent Biases in Language Reward Models
von: Fein, Daniel, et al.
Veröffentlicht: (2026)

From Spectra to Geography: Intelligent Mapping of RRUFF Mineral Data
von: Pappone, Francesco, et al.
Veröffentlicht: (2024)

Self-Rewarding PPO: Aligning Large Language Models with Demonstrations Only
von: Zhang, Qingru, et al.
Veröffentlicht: (2025)

Integrating Hierarchical Semantic into Iterative Generation Model for Entailment Tree Explanation
von: Wang, Qin, et al.
Veröffentlicht: (2024)

Illocutionary Explanation Planning for Source-Faithful Explanations in Retrieval-Augmented Language Models
von: Sovrano, Francesco, et al.
Veröffentlicht: (2026)

LLM Self-Explanations Fail Semantic Invariance
von: Szeider, Stefan
Veröffentlicht: (2026)

Reward Shaping to Mitigate Reward Hacking in RLHF
von: Fu, Jiayi, et al.
Veröffentlicht: (2025)

Utility-inspired Reward Transformations Improve Reinforcement Learning Training of Language Models
von: Maura-Rivero, Roberto-Rafael, et al.
Veröffentlicht: (2025)

On the Transformations across Reward Model, Parameter Update, and In-Context Prompt
von: Cai, Deng, et al.
Veröffentlicht: (2024)

Text2Reward: Reward Shaping with Language Models for Reinforcement Learning
von: Xie, Tianbao, et al.
Veröffentlicht: (2023)

Reward Model Perspectives: Whose Opinions Do Reward Models Reward?
von: Elle
Veröffentlicht: (2025)

Transformers and Cortical Waves: Encoders for Pulling In Context Across Time
von: Muller, Lyle, et al.
Veröffentlicht: (2024)

LabelFusion: Fusing Large Language Models with Transformer Encoders for Robust Financial News Classification
von: Schlee, Michael, et al.
Veröffentlicht: (2025)

Learning Disentangled Semantic Spaces of Explanations via Invertible Neural Networks
von: Zhang, Yingji, et al.
Veröffentlicht: (2023)

Transformer-Encoder Trees for Efficient Multilingual Machine Translation and Speech Translation
von: Guan, Yiwen, et al.
Veröffentlicht: (2025)

Fine-tuning Transformer-based Encoder for Turkish Language Understanding Tasks
von: Yildirim, Savas
Veröffentlicht: (2024)

Multi-Task Pre-Finetuning of Lightweight Transformer Encoders for Text Classification and NER
von: Zhu, Junyi, et al.
Veröffentlicht: (2025)

Teaching LLMs to Abstain via Fine-Grained Semantic Confidence Reward
von: An, Hao, et al.
Veröffentlicht: (2025)

Skywork-Reward: Bag of Tricks for Reward Modeling in LLMs
von: Liu, Chris Yuhao, et al.
Veröffentlicht: (2024)

Critique-GRPO: Advancing LLM Reasoning with Natural Language and Numerical Feedback
von: Zhang, Xiaoying, et al.
Veröffentlicht: (2025)

Tiny Reward Models
von: Pan, Sarah
Veröffentlicht: (2025)

Free(): Learning to Forget in Malloc-Only Reasoning Models
von: Zheng, Yilun, et al.
Veröffentlicht: (2026)

M-GRPO: Stabilizing Self-Supervised Reinforcement Learning for Large Language Models with Momentum-Anchored Policy Optimization
von: Bai, Bizhe, et al.
Veröffentlicht: (2025)

GRAM: A Generative Foundation Reward Model for Reward Generalization
von: Wang, Chenglong, et al.
Veröffentlicht: (2025)

The Past Is Not Past: Memory-Enhanced Dynamic Reward Shaping
von: Liu, Yang, et al.
Veröffentlicht: (2026)

WildReward: Learning Reward Models from In-the-Wild Human Interactions
von: Peng, Hao, et al.
Veröffentlicht: (2026)

Layer-Wise Evolution of Representations in Fine-Tuned Transformers: Insights from Sparse AutoEncoders
von: Nadipalli, Suneel
Veröffentlicht: (2025)