More Data or Better Data? A Critical Analysis of Data Selection and Synthesis for Mathematical Reasoning
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Zhao, Yike, Guo, Simin, Yang, Ziqing, Han, Shifan, Lin, Dahua, Tan, Fei |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
MathSmith: Towards Extremely Hard Mathematical Reasoning by Forging Synthetic Problems with a Reinforced Policy
par: Zhan, Shaoxiong, et autres
Publié: (2025)
par: Zhan, Shaoxiong, et autres
Publié: (2025)
Exploring the Mystery of Influential Data for Mathematical Reasoning
par: Ni, Xinzhe, et autres
Publié: (2024)
par: Ni, Xinzhe, et autres
Publié: (2024)
Select2Reason: Efficient Instruction-Tuning Data Selection for Long-CoT Reasoning
par: Yang, Cehao, et autres
Publié: (2025)
par: Yang, Cehao, et autres
Publié: (2025)
Key-Point-Driven Data Synthesis with its Enhancement on Mathematical Reasoning
par: Huang, Yiming, et autres
Publié: (2024)
par: Huang, Yiming, et autres
Publié: (2024)
Hint Tuning: Less Data Makes Better Reasoners
par: Fan, Siqi, et autres
Publié: (2026)
par: Fan, Siqi, et autres
Publié: (2026)
Learning to Adapt SFT Data for Better Reasoning Generalization
par: Sun, Lisong, et autres
Publié: (2026)
par: Sun, Lisong, et autres
Publié: (2026)
Data-free Weight Compress and Denoise for Large Language Models
par: Peng, Runyu, et autres
Publié: (2024)
par: Peng, Runyu, et autres
Publié: (2024)
When Less Language is More: Language-Reasoning Disentanglement Makes LLMs Better Multilingual Reasoners
par: Zhao, Weixiang, et autres
Publié: (2025)
par: Zhao, Weixiang, et autres
Publié: (2025)
Data Swarms: Optimizable Generation of Synthetic Evaluation Data
par: Feng, Shangbin, et autres
Publié: (2025)
par: Feng, Shangbin, et autres
Publié: (2025)
Balanced Data Sampling for Language Model Training with Clustering
par: Shao, Yunfan, et autres
Publié: (2024)
par: Shao, Yunfan, et autres
Publié: (2024)
Advancing Mathematical Reasoning in Language Models: The Impact of Problem-Solving Data, Data Synthesis Methods, and Training Stages
par: Chen, Zui, et autres
Publié: (2025)
par: Chen, Zui, et autres
Publié: (2025)
MathAgent: Adversarial Evolution of Constraint Graphs for Mathematical Reasoning Data Synthesis
par: Yu, Zixiong, et autres
Publié: (2026)
par: Yu, Zixiong, et autres
Publié: (2026)
Improving Translation Quality by Selecting Better Data for LLM Fine-Tuning: A Comparative Analysis
par: de Mello, Felipe Ribeiro Fujita, et autres
Publié: (2025)
par: de Mello, Felipe Ribeiro Fujita, et autres
Publié: (2025)
Pensez: Less Data, Better Reasoning -- Rethinking French LLM
par: Ha, Huy Hoang
Publié: (2025)
par: Ha, Huy Hoang
Publié: (2025)
Consultant Decoding: Yet Another Synergistic Mechanism
par: Ding, Chuanghao, et autres
Publié: (2025)
par: Ding, Chuanghao, et autres
Publié: (2025)
Scaling Multi-Hop Training Data via Graph-Constrained Path Selection
par: Chen, Pengyu, et autres
Publié: (2026)
par: Chen, Pengyu, et autres
Publié: (2026)
Unified Data Selection for LLM Reasoning
par: Li, Xiaoyuan, et autres
Publié: (2026)
par: Li, Xiaoyuan, et autres
Publié: (2026)
JiuZhang3.0: Efficiently Improving Mathematical Reasoning by Training Small Data Synthesis Models
par: Zhou, Kun, et autres
Publié: (2024)
par: Zhou, Kun, et autres
Publié: (2024)
PersonaMath: Boosting Mathematical Reasoning via Persona-Driven Data Augmentation
par: Luo, Jing, et autres
Publié: (2024)
par: Luo, Jing, et autres
Publié: (2024)
Less is More: High-value Data Selection for Visual Instruction Tuning
par: Liu, Zikang, et autres
Publié: (2024)
par: Liu, Zikang, et autres
Publié: (2024)
Skill-Aware Data Selection and Fine-Tuning for Data-Efficient Reasoning Distillation
par: Zhang, Lechen, et autres
Publié: (2026)
par: Zhang, Lechen, et autres
Publié: (2026)
Dynamic Benchmarking of Reasoning Capabilities in Code Large Language Models Under Data Contamination
par: Chen, Simin, et autres
Publié: (2025)
par: Chen, Simin, et autres
Publié: (2025)
FABSVer: Faster Training and Better Self-Verification for LLM Mathematical Reasoning
par: Pan, Haihui, et autres
Publié: (2026)
par: Pan, Haihui, et autres
Publié: (2026)
Towards Advanced Mathematical Reasoning for LLMs via First-Order Logic Theorem Proving
par: Cao, Chuxue, et autres
Publié: (2025)
par: Cao, Chuxue, et autres
Publié: (2025)
No More Distractions: an Adaptive Up-Sampling Algorithm to Reduce Data Artifacts
par: Chen, Han
Publié: (2024)
par: Chen, Han
Publié: (2024)
SQLForge: Synthesizing Reliable and Diverse Data to Enhance Text-to-SQL Reasoning in LLMs
par: Guo, Yu, et autres
Publié: (2025)
par: Guo, Yu, et autres
Publié: (2025)
Mixed Preference Optimization: Reinforcement Learning with Data Selection and Better Reference Model
par: Gou, Qi, et autres
Publié: (2024)
par: Gou, Qi, et autres
Publié: (2024)
Less is More: Improving LLM Alignment via Preference Data Selection
par: Deng, Xun, et autres
Publié: (2025)
par: Deng, Xun, et autres
Publié: (2025)
Uncertainty-Based Methods for Automated Process Reward Data Construction and Output Aggregation in Mathematical Reasoning
par: Han, Jiuzhou, et autres
Publié: (2025)
par: Han, Jiuzhou, et autres
Publié: (2025)
Limited Preference Data? Learning Better Reward Model with Latent Space Synthesis
par: Tao, Leitian, et autres
Publié: (2025)
par: Tao, Leitian, et autres
Publié: (2025)
Skywork-Math: Data Scaling Laws for Mathematical Reasoning in Large Language Models -- The Story Goes On
par: Zeng, Liang, et autres
Publié: (2024)
par: Zeng, Liang, et autres
Publié: (2024)
RIDE: Difficulty Evolving Perturbation with Item Response Theory for Mathematical Reasoning
par: Li, Xinyuan, et autres
Publié: (2025)
par: Li, Xinyuan, et autres
Publié: (2025)
Joint Selection for Large-Scale Pre-Training Data via Policy Gradient-based Mask Learning
par: Fan, Ziqing, et autres
Publié: (2025)
par: Fan, Ziqing, et autres
Publié: (2025)
LLM Critics Help Catch Bugs in Mathematics: Towards a Better Mathematical Verifier with Natural Language Feedback
par: Gao, Bofei, et autres
Publié: (2024)
par: Gao, Bofei, et autres
Publié: (2024)
Less is More: Geometric Unlearning for LLMs with Minimal Data Disclosure
par: Tan, Chenchen, et autres
Publié: (2026)
par: Tan, Chenchen, et autres
Publié: (2026)
Selecting Auxiliary Data via Neural Tangent Kernels for Low-Resource Domains
par: Wang, Pingjie, et autres
Publié: (2025)
par: Wang, Pingjie, et autres
Publié: (2025)
Generative Data Refinement: Just Ask for Better Data
par: Jiang, Minqi, et autres
Publié: (2025)
par: Jiang, Minqi, et autres
Publié: (2025)
MathClean: A Benchmark for Synthetic Mathematical Data Cleaning
par: Liang, Hao, et autres
Publié: (2025)
par: Liang, Hao, et autres
Publié: (2025)
Dynamic Gradient Alignment for Online Data Mixing
par: Fan, Simin, et autres
Publié: (2024)
par: Fan, Simin, et autres
Publié: (2024)
Autonomous Data Selection with Zero-shot Generative Classifiers for Mathematical Texts
par: Zhang, Yifan, et autres
Publié: (2024)
par: Zhang, Yifan, et autres
Publié: (2024)
Documents similaires
-
MathSmith: Towards Extremely Hard Mathematical Reasoning by Forging Synthetic Problems with a Reinforced Policy
par: Zhan, Shaoxiong, et autres
Publié: (2025) -
Exploring the Mystery of Influential Data for Mathematical Reasoning
par: Ni, Xinzhe, et autres
Publié: (2024) -
Select2Reason: Efficient Instruction-Tuning Data Selection for Long-CoT Reasoning
par: Yang, Cehao, et autres
Publié: (2025) -
Key-Point-Driven Data Synthesis with its Enhancement on Mathematical Reasoning
par: Huang, Yiming, et autres
Publié: (2024) -
Hint Tuning: Less Data Makes Better Reasoners
par: Fan, Siqi, et autres
Publié: (2026)