Targeted Efficient Fine-tuning: Optimizing Parameter Updates with Data-Driven Sample Selection
Fuente:
arXiv
Salvato in:
| Autori principali: | Dong, Ming, Xue, Kang, Zheng, Bolong, He, Tingting |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
DSCD: Large Language Model Detoxification with Self-Constrained Decoding
di: Dong, Ming, et al.
Pubblicazione: (2025)
di: Dong, Ming, et al.
Pubblicazione: (2025)
PARA: Parameter-Efficient Fine-tuning with Prompt Aware Representation Adjustment
di: Liu, Zequan, et al.
Pubblicazione: (2025)
di: Liu, Zequan, et al.
Pubblicazione: (2025)
Small Updates, Big Doubts: Does Parameter-Efficient Fine-tuning Enhance Hallucination Detection ?
di: Hu, Xu, et al.
Pubblicazione: (2026)
di: Hu, Xu, et al.
Pubblicazione: (2026)
FISH-Tuning: Enhancing PEFT Methods with Fisher Information
di: Xue, Kang, et al.
Pubblicazione: (2025)
di: Xue, Kang, et al.
Pubblicazione: (2025)
Adapt Once, Thrive with Updates: Transferable Parameter-Efficient Fine-Tuning on Evolving Base Models
di: Gu, Naibin, et al.
Pubblicazione: (2025)
di: Gu, Naibin, et al.
Pubblicazione: (2025)
PEDRO: Parameter-Efficient Fine-tuning with Prompt DEpenDent Representation MOdification
di: Xie, Tianfang, et al.
Pubblicazione: (2024)
di: Xie, Tianfang, et al.
Pubblicazione: (2024)
Democratizing Large Language Models via Personalized Parameter-Efficient Fine-tuning
di: Tan, Zhaoxuan, et al.
Pubblicazione: (2024)
di: Tan, Zhaoxuan, et al.
Pubblicazione: (2024)
Step-by-Step Unmasking for Parameter-Efficient Fine-tuning of Large Language Models
di: Agarwal, Aradhye, et al.
Pubblicazione: (2024)
di: Agarwal, Aradhye, et al.
Pubblicazione: (2024)
ADePT: Adaptive Decomposed Prompt Tuning for Parameter-Efficient Fine-tuning
di: Tang, Pengwei, et al.
Pubblicazione: (2025)
di: Tang, Pengwei, et al.
Pubblicazione: (2025)
PeFoMed: Parameter Efficient Fine-tuning of Multimodal Large Language Models for Medical Imaging
di: He, Jinlong, et al.
Pubblicazione: (2024)
di: He, Jinlong, et al.
Pubblicazione: (2024)
When MOE Meets LLMs: Parameter Efficient Fine-tuning for Multi-task Medical Applications
di: Liu, Qidong, et al.
Pubblicazione: (2023)
di: Liu, Qidong, et al.
Pubblicazione: (2023)
Parameter Efficient Fine-tuning via Explained Variance Adaptation
di: Paischer, Fabian, et al.
Pubblicazione: (2024)
di: Paischer, Fabian, et al.
Pubblicazione: (2024)
Structure-Learnable Adapter Fine-Tuning for Parameter-Efficient Large Language Models
di: Gong, Ming, et al.
Pubblicazione: (2025)
di: Gong, Ming, et al.
Pubblicazione: (2025)
MoRA: High-Rank Updating for Parameter-Efficient Fine-Tuning
di: Jiang, Ting, et al.
Pubblicazione: (2024)
di: Jiang, Ting, et al.
Pubblicazione: (2024)
Rethinking Data Selection for Supervised Fine-Tuning
di: Shen, Ming
Pubblicazione: (2024)
di: Shen, Ming
Pubblicazione: (2024)
Systematic Analysis for Pretrained Language Model Priming for Parameter-Efficient Fine-tuning
di: Huang, Shih-Cheng, et al.
Pubblicazione: (2022)
di: Huang, Shih-Cheng, et al.
Pubblicazione: (2022)
RadarPLM: Adapting Pre-trained Language Models for Marine Radar Target Detection by Selective Fine-tuning
di: Hu, Qiying, et al.
Pubblicazione: (2025)
di: Hu, Qiying, et al.
Pubblicazione: (2025)
Advancing Parameter Efficiency in Fine-tuning via Representation Editing
di: Wu, Muling, et al.
Pubblicazione: (2024)
di: Wu, Muling, et al.
Pubblicazione: (2024)
Parameter-Efficient Fine-Tuning for Foundation Models
di: Zhang, Dan, et al.
Pubblicazione: (2025)
di: Zhang, Dan, et al.
Pubblicazione: (2025)
Parameter-Efficient Fine-Tuning of Large Language Models via Deconvolution in Subspace
di: Zhang, Jia-Chen, et al.
Pubblicazione: (2025)
di: Zhang, Jia-Chen, et al.
Pubblicazione: (2025)
Random Masking Finds Winning Tickets for Parameter Efficient Fine-tuning
di: Xu, Jing, et al.
Pubblicazione: (2024)
di: Xu, Jing, et al.
Pubblicazione: (2024)
Expert Pyramid Tuning: Efficient Parameter Fine-Tuning for Expertise-Driven Task Allocation
di: Zhang, Jia-Chen, et al.
Pubblicazione: (2026)
di: Zhang, Jia-Chen, et al.
Pubblicazione: (2026)
CoMoE: Contrastive Representation for Mixture-of-Experts in Parameter-Efficient Fine-tuning
di: Feng, Jinyuan, et al.
Pubblicazione: (2025)
di: Feng, Jinyuan, et al.
Pubblicazione: (2025)
DePT: Decomposed Prompt Tuning for Parameter-Efficient Fine-tuning
di: Shi, Zhengxiang, et al.
Pubblicazione: (2023)
di: Shi, Zhengxiang, et al.
Pubblicazione: (2023)
SparseGrad: A Selective Method for Efficient Fine-tuning of MLP Layers
di: Chekalina, Viktoriia, et al.
Pubblicazione: (2024)
di: Chekalina, Viktoriia, et al.
Pubblicazione: (2024)
Token-level Data Selection for Safe LLM Fine-tuning
di: Li, Yanping, et al.
Pubblicazione: (2026)
di: Li, Yanping, et al.
Pubblicazione: (2026)
Full Parameter Fine-tuning for Large Language Models with Limited Resources
di: Lv, Kai, et al.
Pubblicazione: (2023)
di: Lv, Kai, et al.
Pubblicazione: (2023)
Efficient End-to-end Language Model Fine-tuning on Graphs
di: Xue, Rui, et al.
Pubblicazione: (2023)
di: Xue, Rui, et al.
Pubblicazione: (2023)
S'MoRE: Structural Mixture of Residual Experts for Parameter-Efficient LLM Fine-tuning
di: Zeng, Hanqing, et al.
Pubblicazione: (2025)
di: Zeng, Hanqing, et al.
Pubblicazione: (2025)
How Abilities in Large Language Models are Affected by Supervised Fine-tuning Data Composition
di: Dong, Guanting, et al.
Pubblicazione: (2023)
di: Dong, Guanting, et al.
Pubblicazione: (2023)
Selective Fine-Tuning of GPT Architectures for Parameter-Efficient Clinical Text Classification
di: Irany, Fariba Afrin, et al.
Pubblicazione: (2026)
di: Irany, Fariba Afrin, et al.
Pubblicazione: (2026)
EvoSelect: Data-Efficient LLM Evolution for Targeted Task Adaptation
di: Li, Ting-Wei, et al.
Pubblicazione: (2026)
di: Li, Ting-Wei, et al.
Pubblicazione: (2026)
Towards Efficient Medical Reasoning with Minimal Fine-Tuning Data
di: Zhuang, Xinlin, et al.
Pubblicazione: (2025)
di: Zhuang, Xinlin, et al.
Pubblicazione: (2025)
Memento: Fine-tuning LLM Agents without Fine-tuning LLMs
di: Zhou, Huichi, et al.
Pubblicazione: (2025)
di: Zhou, Huichi, et al.
Pubblicazione: (2025)
The Harder The Better: Maintaining Supervised Fine-tuning Generalization with Less but Harder Data
di: Shang, Zhaoyang, et al.
Pubblicazione: (2025)
di: Shang, Zhaoyang, et al.
Pubblicazione: (2025)
Dial-insight: Fine-tuning Large Language Models with High-Quality Domain-Specific Data Preventing Capability Collapse
di: Sun, Jianwei, et al.
Pubblicazione: (2024)
di: Sun, Jianwei, et al.
Pubblicazione: (2024)
Be Careful When Fine-tuning On Open-Source LLMs: Your Fine-tuning Data Could Be Secretly Stolen!
di: Zhang, Zhexin, et al.
Pubblicazione: (2025)
di: Zhang, Zhexin, et al.
Pubblicazione: (2025)
Adapters Mixup: Mixing Parameter-Efficient Adapters to Enhance the Adversarial Robustness of Fine-tuned Pre-trained Text Classifiers
di: Nguyen, Tuc, et al.
Pubblicazione: (2024)
di: Nguyen, Tuc, et al.
Pubblicazione: (2024)
Increasing Model Capacity for Free: A Simple Strategy for Parameter Efficient Fine-tuning
di: Song, Haobo, et al.
Pubblicazione: (2024)
di: Song, Haobo, et al.
Pubblicazione: (2024)
AMAQ: Adaptive Mixed-bit Activation Quantization for Collaborative Parameter Efficient Fine-tuning
di: Song, Yurun, et al.
Pubblicazione: (2025)
di: Song, Yurun, et al.
Pubblicazione: (2025)
Documenti analoghi
-
DSCD: Large Language Model Detoxification with Self-Constrained Decoding
di: Dong, Ming, et al.
Pubblicazione: (2025) -
PARA: Parameter-Efficient Fine-tuning with Prompt Aware Representation Adjustment
di: Liu, Zequan, et al.
Pubblicazione: (2025) -
Small Updates, Big Doubts: Does Parameter-Efficient Fine-tuning Enhance Hallucination Detection ?
di: Hu, Xu, et al.
Pubblicazione: (2026) -
FISH-Tuning: Enhancing PEFT Methods with Fisher Information
di: Xue, Kang, et al.
Pubblicazione: (2025) -
Adapt Once, Thrive with Updates: Transferable Parameter-Efficient Fine-Tuning on Evolving Base Models
di: Gu, Naibin, et al.
Pubblicazione: (2025)