Buchumschlag

Greedy Information Projection for LLM Data Selection

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Dong, Victor Ye, Lee, Kuan-Yun, Shuai, Jiamei, Liu, Shengfei, Liu, Yi, Jiao, Jian
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

PMSS: Pretrained Matrices Skeleton Selection for LLM Fine-tuning
von: Wang, Qibin, et al.
Veröffentlicht: (2024)

CDQuant: Greedy Coordinate Descent for Accurate LLM Quantization
von: Nair, Pranav Ajit, et al.
Veröffentlicht: (2024)

ROSE: A Reward-Oriented Data Selection Framework for LLM Task-Specific Instruction Tuning
von: Wu, Yang, et al.
Veröffentlicht: (2024)

Two Calls, Two Moments, and the Vote-Accuracy Curve of Repeated LLM Inference
von: Liu, Yi
Veröffentlicht: (2026)

Learn More, Forget Less: A Gradient-Aware Data Selection Approach for LLM
von: Liu, Yibai, et al.
Veröffentlicht: (2025)

When Greedy Wins: Emergent Exploitation Bias in Meta-Bandit LLM Training
von: Chen, Sanxing, et al.
Veröffentlicht: (2025)

Enhancing Multilingual LLM Pretraining with Model-Based Data Selection
von: Messmer, Bettina, et al.
Veröffentlicht: (2025)

UFO-RL: Uncertainty-Focused Optimization for Efficient Reinforcement Learning Data Selection
von: Zhao, Yang, et al.
Veröffentlicht: (2025)

Strategic Demonstration Selection for Improved Fairness in LLM In-Context Learning
von: Hu, Jingyu, et al.
Veröffentlicht: (2024)

SPIO: Ensemble and Selective Strategies via LLM-Based Multi-Agent Planning in Automated Data Science
von: Seo, Wonduk, et al.
Veröffentlicht: (2025)

Not All LLM-Generated Data Are Equal: Rethinking Data Weighting in Text Classification
von: Kuo, Hsun-Yu, et al.
Veröffentlicht: (2024)

From Alignment to Advancement: Bootstrapping Audio-Language Alignment with Synthetic Data
von: Kuan, Chun-Yi, et al.
Veröffentlicht: (2025)

LoopTool: Closing the Data-Training Loop for Robust LLM Tool Calls
von: Zhang, Kangning, et al.
Veröffentlicht: (2025)

Disentangling the Roles of Representation and Selection in Data Pruning
von: Du, Yupei, et al.
Veröffentlicht: (2025)

Gender Bias in Instruction-Guided Speech Synthesis Models
von: Kuan, Chun-Yi, et al.
Veröffentlicht: (2025)

PEDAL: Enhancing Greedy Decoding with Large Language Models using Diverse Exemplars
von: Prabhu, Sumanth
Veröffentlicht: (2024)

LCSB: Layer-Cyclic Selective Backpropagation for Memory-Efficient On-Device LLM Fine-Tuning
von: Park, Juneyoung, et al.
Veröffentlicht: (2026)

Enhancing LLM Tool Use with High-quality Instruction Data from Knowledge Graph
von: Wang, Jingwei, et al.
Veröffentlicht: (2025)

Efficient RLVR Training via Weighted Mutual Information Data Selection
von: Zhou, Xinyu, et al.
Veröffentlicht: (2026)

Comparative Analysis of Demonstration Selection Algorithms for LLM In-Context Learning
von: Shu, Dong, et al.
Veröffentlicht: (2024)

Selective Reflection-Tuning: Student-Selected Data Recycling for LLM Instruction-Tuning
von: Li, Ming, et al.
Veröffentlicht: (2024)

When Scaling Meets LLM Finetuning: The Effect of Data, Model and Finetuning Method
von: Zhang, Biao, et al.
Veröffentlicht: (2024)

vLLM Hook v0: A Plug-in for Programming Model Internals on vLLM
von: Ko, Ching-Yun, et al.
Veröffentlicht: (2026)

SEEKR: Selective Attention-Guided Knowledge Retention for Continual Learning of Large Language Models
von: He, Jinghan, et al.
Veröffentlicht: (2024)

Mitigating Heterogeneous Token Overfitting in LLM Knowledge Editing
von: Liu, Tianci, et al.
Veröffentlicht: (2025)

TRACES: Proactive Safety Auditing for Multi-Turn LLM Agents via Trajectory-State Modeling
von: Li, Jiaqian, et al.
Veröffentlicht: (2026)

Selection of LLM Fine-Tuning Data based on Orthogonal Rules
von: Li, Xiaomin, et al.
Veröffentlicht: (2024)

Utility-Diversity Aware Online Batch Selection for LLM Supervised Fine-tuning
von: Zou, Heming, et al.
Veröffentlicht: (2025)

GRIP: Geometric Refinement and Adaptive Information Potential for Data Efficiency
von: Wang, Changhao, et al.
Veröffentlicht: (2026)

Entropy Law: The Story Behind Data Compression and LLM Performance
von: Yin, Mingjia, et al.
Veröffentlicht: (2024)

One Token to Fool LLM-as-a-Judge
von: Zhao, Yulai, et al.
Veröffentlicht: (2025)

Sparse Attention Remapping with Clustering for Efficient LLM Decoding on PIM
von: Fan, Zehao, et al.
Veröffentlicht: (2025)

Freshness-Aware Prioritized Experience Replay for LLM/VLM Reinforcement Learning
von: Ma, Weiyu, et al.
Veröffentlicht: (2026)

Principled Data Selection for Alignment: The Hidden Risks of Difficult Examples
von: Gao, Chengqian, et al.
Veröffentlicht: (2025)

Adaptive Layer Selection for Layer-Wise Token Pruning in LLM Inference
von: Taniguchi, Rei, et al.
Veröffentlicht: (2026)

Filter-then-Weight: Online Data Selection and Reweighting for LLM Fine-Tuning
von: Wang, Fangxin, et al.
Veröffentlicht: (2026)

GradAlign: Gradient-Aligned Data Selection for LLM Reinforcement Learning
von: Yang, Ningyuan, et al.
Veröffentlicht: (2026)

Less is More: Improving LLM Alignment via Preference Data Selection
von: Deng, Xun, et al.
Veröffentlicht: (2025)

$\textbf{AGT$^{AO}$}$: Robust and Stabilized LLM Unlearning via Adversarial Gating Training with Adaptive Orthogonality
von: Li, Pengyu, et al.
Veröffentlicht: (2026)

Knowledge-Driven Feature Selection and Engineering for Genotype Data with Large Language Models
von: Lee, Joseph, et al.
Veröffentlicht: (2024)