Buchumschlag

Bias-Restrained Prefix Representation Finetuning for Mathematical Reasoning

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liang, Sirui, Cao, Pengfei, Zhao, Jian, Huang, Cong, Zhao, Jun, Liu, Kang
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Representation Finetuning for Continual Learning
von: Luo, Haihua, et al.
Veröffentlicht: (2026)

Fast and Effective On-policy Distillation from Reasoning Prefixes
von: Zhang, Dongxu, et al.
Veröffentlicht: (2026)

Towards Infinite-Long Prefix in Transformer
von: Liang, Yingyu, et al.
Veröffentlicht: (2024)

Prefix Grouper: Efficient GRPO Training through Shared-Prefix Forward
von: Liu, Zikang, et al.
Veröffentlicht: (2025)

Beyond Parameter Finetuning: Test-Time Representation Refinement for Node Classification
von: Zhang, Jiaxin, et al.
Veröffentlicht: (2026)

PromptCoT: Synthesizing Olympiad-level Problems for Mathematical Reasoning in Large Language Models
von: Zhao, Xueliang, et al.
Veröffentlicht: (2025)

Self-Supervised Representation Learning for Geospatial Objects: A Survey
von: Chen, Yile, et al.
Veröffentlicht: (2024)

Synthetic Prefixes to Mitigate Bias in Real-Time Neural Query Autocomplete
von: Rajan, Adithya, et al.
Veröffentlicht: (2025)

CARE-RFT: Confidence-Anchored Reinforcement Finetuning for Reliable Reasoning in Large Language Models
von: Li, Shuozhe, et al.
Veröffentlicht: (2026)

Process In-Context Learning: Enhancing Mathematical Reasoning via Dynamic Demonstration Insertion
von: Gao, Ang, et al.
Veröffentlicht: (2026)

Large Language Models to Diffusion Finetuning
von: Cetin, Edoardo, et al.
Veröffentlicht: (2025)

Learning How to Remember: A Meta-Cognitive Management Method for Structured and Transferable Agent Memory
von: Liang, Sirui, et al.
Veröffentlicht: (2026)

Can Past Experience Accelerate LLM Reasoning?
von: Pan, Bo, et al.
Veröffentlicht: (2025)

Dynamics-Predictive Sampling for Active RL Finetuning of Large Reasoning Models
von: Mao, Yixiu, et al.
Veröffentlicht: (2026)

Task-Stratified Knowledge Scaling Laws for Post-Training Quantized Large Language Models
von: Zhou, Chenxi, et al.
Veröffentlicht: (2025)

From Signal Degradation to Computation Collapse: Uncovering the Two Failure Modes of LLM Quantization
von: Zhou, Chenxi, et al.
Veröffentlicht: (2026)

Quantization Meets Reasoning: Exploring and Mitigating Degradation of Low-Bit LLMs in Mathematical Reasoning
von: Li, Zhen, et al.
Veröffentlicht: (2025)

ReFT: Representation Finetuning for Language Models
von: Wu, Zhengxuan, et al.
Veröffentlicht: (2024)

Deja vu: Contrastive Historical Modeling with Prefix-tuning for Temporal Knowledge Graph Reasoning
von: Peng, Miao, et al.
Veröffentlicht: (2024)

Training Reasoning Models on Saturated Problems via Failure-Prefix Conditioning
von: Kim, Minwu, et al.
Veröffentlicht: (2026)

SBS: Enhancing Parameter-Efficiency of Neural Representations for Neural Networks via Spectral Bias Suppression
von: Xie, Qihu, et al.
Veröffentlicht: (2025)

Can Prompt Difficulty be Online Predicted for Accelerating RL Finetuning of Reasoning Models?
von: Qu, Yun, et al.
Veröffentlicht: (2025)

GeoAda: Efficiently Finetune Geometric Diffusion Models with Equivariant Adapters
von: Zhao, Wanjia, et al.
Veröffentlicht: (2025)

Towards Robust Knowledge Unlearning: An Adversarial Framework for Assessing and Improving Unlearning Robustness in Large Language Models
von: Yuan, Hongbang, et al.
Veröffentlicht: (2024)

Skywork-Math: Data Scaling Laws for Mathematical Reasoning in Large Language Models -- The Story Goes On
von: Zeng, Liang, et al.
Veröffentlicht: (2024)

Auxiliary Reward Generation with Transition Distance Representation Learning
von: Li, Siyuan, et al.
Veröffentlicht: (2024)

Bifurcated Attention: Accelerating Massively Parallel Decoding with Shared Prefixes in LLMs
von: Athiwaratkun, Ben, et al.
Veröffentlicht: (2024)

VAR-MATH: Probing True Mathematical Reasoning in LLMS via Symbolic Multi-Instance Benchmarks
von: Yao, Jian, et al.
Veröffentlicht: (2025)

Multiagent Finetuning: Self Improvement with Diverse Reasoning Chains
von: Subramaniam, Vighnesh, et al.
Veröffentlicht: (2025)

Conformalized Link Prediction on Graph Neural Networks
von: Zhao, Tianyi, et al.
Veröffentlicht: (2024)

FormalMATH: Benchmarking Formal Mathematical Reasoning of Large Language Models
von: Yu, Zhouliang, et al.
Veröffentlicht: (2025)

PrefixGPT: Prefix Adder Optimization by a Generative Pre-trained Transformer
von: Ding, Ruogu, et al.
Veröffentlicht: (2025)

Learn to Think: Bootstrapping LLM Reasoning Capability Through Graph Representation Learning
von: Gao, Hang, et al.
Veröffentlicht: (2025)

On the Empirical Complexity of Reasoning and Planning in LLMs
von: Kang, Liwei, et al.
Veröffentlicht: (2024)

Large Language Model Cascades with Mixture of Thoughts Representations for Cost-efficient Reasoning
von: Yue, Murong, et al.
Veröffentlicht: (2023)

Training Verification-Friendly Neural Networks via Neuron Behavior Consistency
von: Liu, Zongxin, et al.
Veröffentlicht: (2024)

Sparse Prefix Caching for Hybrid and Recurrent LLM Serving
von: Shirokikh, Mikhail, et al.
Veröffentlicht: (2026)

Geometric Mixture-of-Experts with Curvature-Guided Adaptive Routing for Graph Representation Learning
von: Cao, Haifang, et al.
Veröffentlicht: (2026)

Evaluating Robustness of Reward Models for Mathematical Reasoning
von: Kim, Sunghwan, et al.
Veröffentlicht: (2024)

RL-Finetuned LLMs for Privacy-Preserving Synthetic Rewriting
von: Shi, Zhan, et al.
Veröffentlicht: (2025)