Copertina

Not All Parameters Are Created Equal: Smart Isolation Boosts Fine-Tuning Performance

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Wang, Yao, Liang, Di, Peng, Minlong
Natura:	Preprint
Pubblicazione:	2025
Soggetti:	Computation and Language
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Parameter Importance is Not Static: Evolving Parameter Isolation for Supervised Fine-Tuning
di: Lin, Zekai, et al.
Pubblicazione: (2026)

TRACE: Discovering Task-Specific Parameter via Adaptation-Aware Probing for Continual Fine-Tuning
di: Han, Xiaosong, et al.
Pubblicazione: (2026)

All Entities are Not Created Equal: Examining the Long Tail for Ultra-Fine Entity Typing
di: Deshmukh, Advait, et al.
Pubblicazione: (2024)

Why Supervised Fine-Tuning Fails to Learn: A Systematic Study of Incomplete Learning in Large Language Models
di: Xue, Chao, et al.
Pubblicazione: (2026)

Not All Pretraining are Created Equal: Threshold Tuning and Class Weighting for Imbalanced Polarization Tasks in Low-Resource Settings
di: Oguntade, Abass
Pubblicazione: (2026)

DeCoRL: Decoupling Reasoning Chains via Parallel Sub-Step Generation and Cascaded Reinforcement for Interpretable and Scalable RLHF
di: Gao, Ziyuan, et al.
Pubblicazione: (2025)

Shall Your Data Strategy Work? Perform a Swift Study
di: Peng, Minlong, et al.
Pubblicazione: (2025)

DPI: Exploiting Parameter Heterogeneity for Interference-Free Fine-Tuning
di: Liu, Xiaoyu, et al.
Pubblicazione: (2026)

Not All Errors Are Created Equal: ASCoT Addresses Late-Stage Fragility in Efficient LLM Reasoning
di: Zhang, Dongxu, et al.
Pubblicazione: (2025)

Not All Preference Pairs Are Created Equal: A Recipe for Annotation-Efficient Iterative Preference Learning
di: Yang, Sen, et al.
Pubblicazione: (2024)

TriAdaptLoRA: Brain-Inspired Triangular Adaptive Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
di: Liang, Yao, et al.
Pubblicazione: (2025)

Not All Languages are Equal: Insights into Multilingual Retrieval-Augmented Generation
di: Wu, Suhang, et al.
Pubblicazione: (2024)

Not All Similarities Are Created Equal: Leveraging Data-Driven Biases to Inform GenAI Copyright Disputes
di: Hacohen, Uri, et al.
Pubblicazione: (2024)

Not All Correct Answers Are Equal: Why Your Distillation Source Matters
di: Tian, Xiaoyu, et al.
Pubblicazione: (2025)

Light-PEFT: Lightening Parameter-Efficient Fine-Tuning via Early Pruning
di: Gu, Naibin, et al.
Pubblicazione: (2024)

Matrix-Transformation Based Low-Rank Adaptation (MTLoRA): A Brain-Inspired Method for Parameter-Efficient Fine-Tuning
di: Liang, Yao, et al.
Pubblicazione: (2024)

Scaling Down to Scale Up: A Guide to Parameter-Efficient Fine-Tuning
di: Lialin, Vladislav, et al.
Pubblicazione: (2023)

Not All Options Are Created Equal: Textual Option Weighting for Token-Efficient LLM-Based Knowledge Tracing
di: Kim, JongWoo, et al.
Pubblicazione: (2024)

Unlocking Parameter-Efficient Fine-Tuning for Low-Resource Language Translation
di: Su, Tong, et al.
Pubblicazione: (2024)

From Parameters to Prompts: Understanding and Mitigating the Factuality Gap between Fine-Tuned LLMs
di: Gong, Xuan, et al.
Pubblicazione: (2025)

Parameter-Efficient Fine-Tuning with Discrete Fourier Transform
di: Gao, Ziqi, et al.
Pubblicazione: (2024)

High-Rank Structured Modulation for Parameter-Efficient Fine-Tuning
di: Liu, Yongkang, et al.
Pubblicazione: (2026)

Adapt Once, Thrive with Updates: Transferable Parameter-Efficient Fine-Tuning on Evolving Base Models
di: Gu, Naibin, et al.
Pubblicazione: (2025)

Parameter-Efficient Fine-Tuning With Adapters
di: Chen, Keyu, et al.
Pubblicazione: (2024)

Not All Contexts Are Equal: Teaching LLMs Credibility-aware Generation
di: Pan, Ruotong, et al.
Pubblicazione: (2024)

Deconfounded Causality-aware Parameter-Efficient Fine-Tuning for Problem-Solving Improvement of LLMs
di: Wang, Ruoyu, et al.
Pubblicazione: (2024)

Boosting Large Language Models with Mask Fine-Tuning
di: Zhang, Mingyuan, et al.
Pubblicazione: (2025)

Parameter-Efficient Fine-Tuning for Foundation Models
di: Zhang, Dan, et al.
Pubblicazione: (2025)

Parameter-Efficient Fine-Tuning of Large Language Models using Semantic Knowledge Tuning
di: Prottasha, Nusrat Jahan, et al.
Pubblicazione: (2024)

SIBO: A Simple Booster for Parameter-Efficient Fine-Tuning
di: Wen, Zhihao, et al.
Pubblicazione: (2024)

All Claims Are Equal, but Some Claims Are More Equal Than Others: Importance-Sensitive Factuality Evaluation of LLM Generations
di: Wanner, Miriam, et al.
Pubblicazione: (2025)

SPP: Sparsity-Preserved Parameter-Efficient Fine-Tuning for Large Language Models
di: Lu, Xudong, et al.
Pubblicazione: (2024)

IndicLLMSuite: A Blueprint for Creating Pre-training and Fine-Tuning Datasets for Indian Languages
di: Khan, Mohammed Safi Ur Rahman, et al.
Pubblicazione: (2024)

Fine-Tuning Small Embeddings for Elevated Performance
di: Silwal, Biraj
Pubblicazione: (2024)

Not All Proofs Are Equal: Evaluating LLM Proof Quality Beyond Correctness
di: Petrov, Ivo, et al.
Pubblicazione: (2026)

The Fine-Tuning Paradox: Boosting Translation Quality Without Sacrificing LLM Abilities
di: Stap, David, et al.
Pubblicazione: (2024)

Analyzing the Effects of Supervised Fine-Tuning on Model Knowledge from Token and Parameter Levels
di: Ye, Junjie, et al.
Pubblicazione: (2025)

Parameter-Efficient Fine-Tuning via Circular Convolution
di: Chen, Aochuan, et al.
Pubblicazione: (2024)

Parameter-Efficient Fine-Tuning of State Space Models
di: Galim, Kevin, et al.
Pubblicazione: (2024)

PEFT-Bench: A Parameter-Efficient Fine-Tuning Methods Benchmark
di: Belanec, Robert, et al.
Pubblicazione: (2025)