Revisiting the Data Sampling in Multimodal Post-training from a Difficulty-Distinguish View
Fuente:
arXiv
Salvato in:
| Autori principali: | Qi, Jianyu, Zou, Ding, Yan, Wenrui, Ma, Rui, Li, Jiaxu, Zheng, Zhijie, Yang, Zhiguo, Zhao, Rongchang |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Reasoning with OmniThought: A Large CoT Dataset with Verbosity and Cognitive Difficulty Annotations
di: Cai, Wenrui, et al.
Pubblicazione: (2025)
di: Cai, Wenrui, et al.
Pubblicazione: (2025)
Revisiting Self-Play Preference Optimization: On the Role of Prompt Difficulty
di: Xiao, Yao, et al.
Pubblicazione: (2025)
di: Xiao, Yao, et al.
Pubblicazione: (2025)
Learn or Recall? Revisiting Incremental Learning with Pre-trained Language Models
di: Zheng, Junhao, et al.
Pubblicazione: (2023)
di: Zheng, Junhao, et al.
Pubblicazione: (2023)
AIR: Post-training Data Selection for Reasoning via Attention Head Influence
di: Liu, Jinrui, et al.
Pubblicazione: (2025)
di: Liu, Jinrui, et al.
Pubblicazione: (2025)
On Predicting the Post-training Potential of Pre-trained LLMs
di: Li, Xiaoyuan, et al.
Pubblicazione: (2026)
di: Li, Xiaoyuan, et al.
Pubblicazione: (2026)
Asymmetric Conflict and Synergy in Post-training for LLM-based Multilingual Machine Translation
di: Zheng, Tong, et al.
Pubblicazione: (2025)
di: Zheng, Tong, et al.
Pubblicazione: (2025)
Revisiting Generalization Across Difficulty Levels: It's Not So Easy
di: Kordi, Yeganeh, et al.
Pubblicazione: (2025)
di: Kordi, Yeganeh, et al.
Pubblicazione: (2025)
Unsupervised Cross-Lingual Part-of-Speech Tagging with Monolingual Corpora Only
di: Zheng, Jianyu
Pubblicazione: (2026)
di: Zheng, Jianyu
Pubblicazione: (2026)
Effective vocabulary expanding of multilingual language models for extremely low-resource languages
di: Zheng, Jianyu
Pubblicazione: (2026)
di: Zheng, Jianyu
Pubblicazione: (2026)
On the Impact of Calibration Data in Post-training Quantization and Pruning
di: Williams, Miles, et al.
Pubblicazione: (2023)
di: Williams, Miles, et al.
Pubblicazione: (2023)
Are Transformers in Pre-trained LM A Good ASR Encoder? An Empirical Study
di: An, Keyu, et al.
Pubblicazione: (2024)
di: An, Keyu, et al.
Pubblicazione: (2024)
Unveiling the Impact of Multimodal Features on Chinese Spelling Correction: From Analysis to Design
di: Zhang, Xiaowu, et al.
Pubblicazione: (2025)
di: Zhang, Xiaowu, et al.
Pubblicazione: (2025)
Characterizing Memorization in Diffusion Language Models: Generalized Extraction and Sampling Effects
di: Luo, Xiaoyu, et al.
Pubblicazione: (2026)
di: Luo, Xiaoyu, et al.
Pubblicazione: (2026)
Pre-trained Language Models Return Distinguishable Probability Distributions to Unfaithfully Hallucinated Texts
di: Cha, Taehun, et al.
Pubblicazione: (2024)
di: Cha, Taehun, et al.
Pubblicazione: (2024)
GM-PRM: A Generative Multimodal Process Reward Model for Multimodal Mathematical Reasoning
di: Zhang, Jianghangfan, et al.
Pubblicazione: (2025)
di: Zhang, Jianghangfan, et al.
Pubblicazione: (2025)
DAST: Difficulty-Aware Self-Training on Large Language Models
di: Xue, Boyang, et al.
Pubblicazione: (2025)
di: Xue, Boyang, et al.
Pubblicazione: (2025)
SampleMix: A Sample-wise Pre-training Data Mixing Strategey by Coordinating Data Quality and Diversity
di: Xi, Xiangyu, et al.
Pubblicazione: (2025)
di: Xi, Xiangyu, et al.
Pubblicazione: (2025)
Breaking the Pre-Sampling Barrier: Activation-Informed Difficulty-Aware Self-Consistency
di: Yoon, Taewoong, et al.
Pubblicazione: (2026)
di: Yoon, Taewoong, et al.
Pubblicazione: (2026)
Hierarchical Multimodal Pre-training for Visually Rich Webpage Understanding
di: Xu, Hongshen, et al.
Pubblicazione: (2024)
di: Xu, Hongshen, et al.
Pubblicazione: (2024)
Got Compute, but No Data: Lessons From Post-training a Finnish LLM
di: Zosa, Elaine, et al.
Pubblicazione: (2025)
di: Zosa, Elaine, et al.
Pubblicazione: (2025)
Enhancing EEG-to-Text Decoding through Transferable Representations from Pre-trained Contrastive EEG-Text Masked Autoencoder
di: Wang, Jiaqi, et al.
Pubblicazione: (2024)
di: Wang, Jiaqi, et al.
Pubblicazione: (2024)
On Data Synthesis and Post-training for Visual Abstract Reasoning
di: Zhu, Ke, et al.
Pubblicazione: (2025)
di: Zhu, Ke, et al.
Pubblicazione: (2025)
DeepDistill: Enhancing LLM Reasoning Capabilities via Large-Scale Difficulty-Graded Data Training
di: Tian, Xiaoyu, et al.
Pubblicazione: (2025)
di: Tian, Xiaoyu, et al.
Pubblicazione: (2025)
Improving Similar Case Retrieval Ranking Performance By Revisiting RankSVM
di: Liu, Yuqi, et al.
Pubblicazione: (2025)
di: Liu, Yuqi, et al.
Pubblicazione: (2025)
Revisiting Classification Taxonomy for Grammatical Errors
di: Zou, Deqing, et al.
Pubblicazione: (2025)
di: Zou, Deqing, et al.
Pubblicazione: (2025)
ARES: Multimodal Adaptive Reasoning via Difficulty-Aware Token-Level Entropy Shaping
di: Chen, Shuang, et al.
Pubblicazione: (2025)
di: Chen, Shuang, et al.
Pubblicazione: (2025)
DARO: Difficulty-Aware Reweighting Policy Optimization
di: Zhou, Jingyu, et al.
Pubblicazione: (2025)
di: Zhou, Jingyu, et al.
Pubblicazione: (2025)
Pointer-CAD: Unifying B-Rep and Command Sequences via Pointer-based Edges & Faces Selection
di: Qi, Dacheng, et al.
Pubblicazione: (2026)
di: Qi, Dacheng, et al.
Pubblicazione: (2026)
Rethinking Expert Trajectory Utilization in LLM Post-training for Mathematical Reasoning
di: Ding, Bowen, et al.
Pubblicazione: (2025)
di: Ding, Bowen, et al.
Pubblicazione: (2025)
Difficulty-Based Preference Data Selection by DPO Implicit Reward Gap
di: Qi, Xuan, et al.
Pubblicazione: (2025)
di: Qi, Xuan, et al.
Pubblicazione: (2025)
RoboUniView: Visual-Language Model with Unified View Representation for Robotic Manipulation
di: Liu, Fanfan, et al.
Pubblicazione: (2024)
di: Liu, Fanfan, et al.
Pubblicazione: (2024)
Predictive Data Selection: The Data That Predicts Is the Data That Teaches
di: Shum, Kashun, et al.
Pubblicazione: (2025)
di: Shum, Kashun, et al.
Pubblicazione: (2025)
ATLAS: A High-Difficulty, Multidisciplinary Benchmark for Frontier Scientific Reasoning
di: Liu, Hongwei, et al.
Pubblicazione: (2025)
di: Liu, Hongwei, et al.
Pubblicazione: (2025)
Caption First, VQA Second: Knowledge Density, Not Task Format, Drives Multimodal Scaling
di: Zou, Hongjian, et al.
Pubblicazione: (2026)
di: Zou, Hongjian, et al.
Pubblicazione: (2026)
TimeBill: Time-Budgeted Inference for Large Language Models
di: Fan, Qi, et al.
Pubblicazione: (2025)
di: Fan, Qi, et al.
Pubblicazione: (2025)
Anchoring Bias in Large Language Models: An Experimental Study
di: Lou, Jiaxu, et al.
Pubblicazione: (2024)
di: Lou, Jiaxu, et al.
Pubblicazione: (2024)
Reasoning Core: A Scalable Procedural Data Generation Suite for Symbolic Pre-training and Post-Training
di: Lacombe, Valentin, et al.
Pubblicazione: (2026)
di: Lacombe, Valentin, et al.
Pubblicazione: (2026)
Text Difficulty Study: Do machines behave the same as humans regarding text difficulty?
di: Chen, Bowen, et al.
Pubblicazione: (2022)
di: Chen, Bowen, et al.
Pubblicazione: (2022)
HeaPA: Difficulty-Aware Heap Sampling and On-Policy Query Augmentation for LLM Reinforcement Learning
di: Wang, Weiqi, et al.
Pubblicazione: (2026)
di: Wang, Weiqi, et al.
Pubblicazione: (2026)
DataProphet: Demystifying Supervision Data Generalization in Multimodal LLMs
di: Qi, Xuan, et al.
Pubblicazione: (2026)
di: Qi, Xuan, et al.
Pubblicazione: (2026)
Documenti analoghi
-
Reasoning with OmniThought: A Large CoT Dataset with Verbosity and Cognitive Difficulty Annotations
di: Cai, Wenrui, et al.
Pubblicazione: (2025) -
Revisiting Self-Play Preference Optimization: On the Role of Prompt Difficulty
di: Xiao, Yao, et al.
Pubblicazione: (2025) -
Learn or Recall? Revisiting Incremental Learning with Pre-trained Language Models
di: Zheng, Junhao, et al.
Pubblicazione: (2023) -
AIR: Post-training Data Selection for Reasoning via Attention Head Influence
di: Liu, Jinrui, et al.
Pubblicazione: (2025) -
On Predicting the Post-training Potential of Pre-trained LLMs
di: Li, Xiaoyuan, et al.
Pubblicazione: (2026)