Copertina

InstructDiff: Domain-Adaptive Data Selection via Differential Entropy for Efficient LLM Fine-Tuning

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Su, Junyou, Zhu, He, Luo, Xiao, Zhang, Liyu, Zhou, Hong-Yu, Chen, Yun, Li, Peng, Liu, Yang, Chen, Guanhua
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Computation and Language
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Anchored Supervised Fine-Tuning
di: Zhu, He, et al.
Pubblicazione: (2025)

Enhancing Large Language Model Reasoning via Selective Critical Token Fine-Tuning
di: Ruan, Zhiwen, et al.
Pubblicazione: (2025)

PlanGPT-VL: Enhancing Urban Planning with Domain-Specific Vision-Language Models
di: Zhu, He, et al.
Pubblicazione: (2025)

TAG-INSTRUCT: Controlled Instruction Complexity Enhancement through Structure-based Augmentation
di: Zhu, He, et al.
Pubblicazione: (2025)

FANNO: Augmenting High-Quality Instruction Data with Open-Sourced LLMs Only
di: Zhu, He, et al.
Pubblicazione: (2024)

GIFT: Guided Fine-Tuning and Transfer for Enhancing Instruction-Tuned Language Models
di: Ruan, Zhiwen, et al.
Pubblicazione: (2026)

Token Cleaning: Fine-Grained Data Selection for LLM Supervised Fine-Tuning
di: Pang, Jinlong, et al.
Pubblicazione: (2025)

Filter-then-Weight: Online Data Selection and Reweighting for LLM Fine-Tuning
di: Wang, Fangxin, et al.
Pubblicazione: (2026)

Selection of LLM Fine-Tuning Data based on Orthogonal Rules
di: Li, Xiaomin, et al.
Pubblicazione: (2024)

Selective Reflection-Tuning: Student-Selected Data Recycling for LLM Instruction-Tuning
di: Li, Ming, et al.
Pubblicazione: (2024)

LEAD: Iterative Data Selection for Efficient LLM Instruction Tuning
di: Lin, Xiaotian, et al.
Pubblicazione: (2025)

MSSR: Memory-Aware Adaptive Replay for Continual LLM Fine-Tuning
di: Lu, Yiyang, et al.
Pubblicazione: (2026)

To Diff or Not to Diff? Structure-Aware and Adaptive Output Formats for Efficient LLM-based Code Editing
di: Cheng, Wei, et al.
Pubblicazione: (2026)

Representation-Guided Parameter-Efficient LLM Unlearning
di: Xiao, Zeguan, et al.
Pubblicazione: (2026)

DP-SelFT: Differentially Private Selective Fine-Tuning for Large Language Models
di: Sha, Haichao, et al.
Pubblicazione: (2026)

Learning to Instruct for Visual Instruction Tuning
di: Zhou, Zhihan, et al.
Pubblicazione: (2025)

MiLoRA: Harnessing Minor Singular Components for Parameter-Efficient LLM Finetuning
di: Wang, Hanqing, et al.
Pubblicazione: (2024)

Adaptive Layer Selection for Efficient Vision Transformer Fine-Tuning
di: Devoto, Alessio, et al.
Pubblicazione: (2024)

DomainStudio: Fine-Tuning Diffusion Models for Domain-Driven Image Generation using Limited Data
di: Zhu, Jingyuan, et al.
Pubblicazione: (2023)

ConInstruct: Evaluating Large Language Models on Conflict Detection and Resolution in Instructions
di: He, Xingwei, et al.
Pubblicazione: (2025)

Parameter-Efficient Subspace Optimization for LLM Fine-Tuning
di: Lou, Yuchen, et al.
Pubblicazione: (2025)

Quantum-Enhanced LLM Efficient Fine Tuning
di: Kong, Xiaofei, et al.
Pubblicazione: (2025)

One Algorithm, Two Goals: Dual Scoring for Parameter and Data Selection in LLM Fine-Tuning
di: Chen, Xinrui, et al.
Pubblicazione: (2026)

S2FT: Parameter-Efficient Fine-Tuning in Sparse Spectrum Domain
di: Zhang, Baoquan, et al.
Pubblicazione: (2026)

Data Whisperer: Efficient Data Selection for Task-Specific LLM Fine-Tuning via Few-Shot In-Context Learning
di: Wang, Shaobo, et al.
Pubblicazione: (2025)

CurvZO: Adaptive Curvature-Guided Sparse Zeroth-Order Optimization for Efficient LLM Fine-Tuning
di: Wang, Shuo, et al.
Pubblicazione: (2026)

The Long-Term Effects of Data Selection in LLM Fine-Tuning
di: Yang, Yuxin, et al.
Pubblicazione: (2026)

Synergy over Discrepancy: A Partition-Based Approach to Multi-Domain LLM Fine-Tuning
di: Ye, Hua, et al.
Pubblicazione: (2025)

SeTAR: Out-of-Distribution Detection with Selective Low-Rank Approximation
di: Li, Yixia, et al.
Pubblicazione: (2024)

ArgInstruct: Specialized Instruction Fine-Tuning for Computational Argumentation
di: Stahl, Maja, et al.
Pubblicazione: (2025)

LayAlign: Enhancing Multilingual Reasoning in Large Language Models via Layer-Wise Adaptive Fusion and Alignment Strategy
di: Ruan, Zhiwen, et al.
Pubblicazione: (2025)

DiffTune: Auto-Tuning through Auto-Differentiation
di: Cheng, Sheng, et al.
Pubblicazione: (2022)

Adaptive Ensembles of Fine-Tuned Transformers for LLM-Generated Text Detection
di: Lai, Zhixin, et al.
Pubblicazione: (2024)

Importance-Aware Data Selection for Efficient LLM Instruction Tuning
di: Jiang, Tingyu, et al.
Pubblicazione: (2025)

Differentiation-Based Extraction of Proprietary Data from Fine-Tuned LLMs
di: Li, Zongjie, et al.
Pubblicazione: (2025)

PACIT: Unlocking the Power of Examples for Better In-Context Instruction Tuning
di: Xue, Tianci, et al.
Pubblicazione: (2023)

Diff-Instruct++: Training One-step Text-to-image Generator Model to Align with Human Preferences
di: Luo, Weijian
Pubblicazione: (2024)

Security Vulnerability Detection with Multitask Self-Instructed Fine-Tuning of Large Language Models
di: Yang, Aidan Z. H., et al.
Pubblicazione: (2024)

PRISM: Preference-Aware Influence Function Based Data Selection Method for Efficient Fine-Tuning
di: Lin, Qihao, et al.
Pubblicazione: (2026)

Memory-Efficient Structured Backpropagation for On-Device LLM Fine-Tuning
di: Park, Juneyoung, et al.
Pubblicazione: (2026)