LENSLLM: Unveiling Fine-Tuning Dynamics for LLM Selection
Fuente:
arXiv
Salvato in:
| Autori principali: | Zeng, Xinyue, Wang, Haohui, Lin, Junhong, Wu, Jun, Cody, Tyler, Zhou, Dawei |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Data Value in the Age of Scaling: Understanding LLM Scaling Dynamics Under Real-Synthetic Data Mixtures
di: Wang, Haohui, et al.
Pubblicazione: (2025)
di: Wang, Haohui, et al.
Pubblicazione: (2025)
HalluGuard: Demystifying Data-Driven and Reasoning-Driven Hallucinations in LLMs
di: Zeng, Xinyue, et al.
Pubblicazione: (2026)
di: Zeng, Xinyue, et al.
Pubblicazione: (2026)
Alignment Dynamics in LLM Fine-Tuning
di: Huang, Yuhan, et al.
Pubblicazione: (2026)
di: Huang, Yuhan, et al.
Pubblicazione: (2026)
HeroFilter: Adaptive Spectral Graph Filter for Varying Heterophilic Relations
di: Zhang, Shuaicheng, et al.
Pubblicazione: (2025)
di: Zhang, Shuaicheng, et al.
Pubblicazione: (2025)
Mitigating Training Imbalance in LLM Fine-Tuning via Selective Parameter Merging
di: Ju, Yiming, et al.
Pubblicazione: (2024)
di: Ju, Yiming, et al.
Pubblicazione: (2024)
FedSelect: Personalized Federated Learning with Customized Selection of Parameters for Fine-Tuning
di: Tamirisa, Rishub, et al.
Pubblicazione: (2024)
di: Tamirisa, Rishub, et al.
Pubblicazione: (2024)
RoRA: Efficient Fine-Tuning of LLM with Reliability Optimization for Rank Adaptation
di: Liu, Jun, et al.
Pubblicazione: (2025)
di: Liu, Jun, et al.
Pubblicazione: (2025)
Filter-then-Weight: Online Data Selection and Reweighting for LLM Fine-Tuning
di: Wang, Fangxin, et al.
Pubblicazione: (2026)
di: Wang, Fangxin, et al.
Pubblicazione: (2026)
Silent Inconsistency in Data-Parallel Full Fine-Tuning: Diagnosing Worker-Level Optimization Misalignment
di: Li, Hong, et al.
Pubblicazione: (2026)
di: Li, Hong, et al.
Pubblicazione: (2026)
Internalizing Curriculum Judgment for LLM Reinforcement Fine-Tuning
di: Zheng, Han, et al.
Pubblicazione: (2026)
di: Zheng, Han, et al.
Pubblicazione: (2026)
FedSelect: Customized Selection of Parameters for Fine-Tuning during Personalized Federated Learning
di: Tamirisa, Rishub, et al.
Pubblicazione: (2023)
di: Tamirisa, Rishub, et al.
Pubblicazione: (2023)
Selection of LLM Fine-Tuning Data based on Orthogonal Rules
di: Li, Xiaomin, et al.
Pubblicazione: (2024)
di: Li, Xiaomin, et al.
Pubblicazione: (2024)
GENUINE: Graph Enhanced Multi-level Uncertainty Estimation for Large Language Models
di: Wang, Tuo, et al.
Pubblicazione: (2025)
di: Wang, Tuo, et al.
Pubblicazione: (2025)
MoFO: Momentum-Filtered Optimizer for Mitigating Forgetting in LLM Fine-Tuning
di: Chen, Yupeng, et al.
Pubblicazione: (2024)
di: Chen, Yupeng, et al.
Pubblicazione: (2024)
Data Difficulty and the Generalization--Extrapolation Tradeoff in LLM Fine-Tuning
di: Liu, Siyuan, et al.
Pubblicazione: (2026)
di: Liu, Siyuan, et al.
Pubblicazione: (2026)
Implicit Federated In-context Learning For Task-Specific LLM Fine-Tuning
di: Li, Dongcheng, et al.
Pubblicazione: (2025)
di: Li, Dongcheng, et al.
Pubblicazione: (2025)
Stabilizing LLM Supervised Fine-Tuning via Explicit Distributional Control
di: Wang, Xinyu, et al.
Pubblicazione: (2026)
di: Wang, Xinyu, et al.
Pubblicazione: (2026)
LEAP: Unlocking dLLM Parallelism via Lookahead Early-Convergence Token Detection
di: Zhang, Haohui, et al.
Pubblicazione: (2026)
di: Zhang, Haohui, et al.
Pubblicazione: (2026)
DipLLM: Fine-Tuning LLM for Strategic Decision-making in Diplomacy
di: Xu, Kaixuan, et al.
Pubblicazione: (2025)
di: Xu, Kaixuan, et al.
Pubblicazione: (2025)
Overcoming Forgetting in LLM Fine-Tuning with Evolution Strategies
di: Schweighofer, Kajetan, et al.
Pubblicazione: (2026)
di: Schweighofer, Kajetan, et al.
Pubblicazione: (2026)
Goal-Conditioned Supervised Learning for LLM Fine-Tuning
di: Li, Shijun, et al.
Pubblicazione: (2026)
di: Li, Shijun, et al.
Pubblicazione: (2026)
Selective Reflection-Tuning: Student-Selected Data Recycling for LLM Instruction-Tuning
di: Li, Ming, et al.
Pubblicazione: (2024)
di: Li, Ming, et al.
Pubblicazione: (2024)
FT-Dojo: Towards Autonomous LLM Fine-Tuning with Language Agents
di: Li, Qizheng, et al.
Pubblicazione: (2026)
di: Li, Qizheng, et al.
Pubblicazione: (2026)
GSQ-Tuning: Group-Shared Exponents Integer in Fully Quantized Training for LLMs On-Device Fine-tuning
di: Zhou, Sifan, et al.
Pubblicazione: (2025)
di: Zhou, Sifan, et al.
Pubblicazione: (2025)
Aligning LLMs with Biomedical Knowledge using Balanced Fine-Tuning
di: Tang, Zhenchao, et al.
Pubblicazione: (2025)
di: Tang, Zhenchao, et al.
Pubblicazione: (2025)
SafeTuneBed: A Toolkit for Benchmarking LLM Safety Alignment in Fine-Tuning
di: Hossain, Saad, et al.
Pubblicazione: (2025)
di: Hossain, Saad, et al.
Pubblicazione: (2025)
On the Entropy Dynamics in Reinforcement Fine-Tuning of Large Language Models
di: Wang, Shumin, et al.
Pubblicazione: (2026)
di: Wang, Shumin, et al.
Pubblicazione: (2026)
MallowsPO: Fine-Tune Your LLM with Preference Dispersions
di: Chen, Haoxian, et al.
Pubblicazione: (2024)
di: Chen, Haoxian, et al.
Pubblicazione: (2024)
Mildly Conservative Regularized Evaluation for Offline Reinforcement Learning
di: Chen, Haohui, et al.
Pubblicazione: (2025)
di: Chen, Haohui, et al.
Pubblicazione: (2025)
A Bayesian Hybrid Parameter-Efficient Fine-Tuning Method for Large Language Models
di: Chai, Yidong, et al.
Pubblicazione: (2025)
di: Chai, Yidong, et al.
Pubblicazione: (2025)
Study of Training Dynamics for Memory-Constrained Fine-Tuning
di: Quélennec, Aël, et al.
Pubblicazione: (2025)
di: Quélennec, Aël, et al.
Pubblicazione: (2025)
ConstellationNet: Reinventing Spatial Clustering through GNNs
di: Gao, Aidan, et al.
Pubblicazione: (2025)
di: Gao, Aidan, et al.
Pubblicazione: (2025)
Balancing Fidelity and Plasticity: Aligning Mixed-Precision Fine-Tuning with Linguistic Hierarchies
di: Zhou, Changhai, et al.
Pubblicazione: (2025)
di: Zhou, Changhai, et al.
Pubblicazione: (2025)
LEAD: Iterative Data Selection for Efficient LLM Instruction Tuning
di: Lin, Xiaotian, et al.
Pubblicazione: (2025)
di: Lin, Xiaotian, et al.
Pubblicazione: (2025)
Fine-Tuning ChemBERTa for Predicting Inhibitory Activity Against TDP1 Using Deep Learning
di: Zeng, Baichuan
Pubblicazione: (2025)
di: Zeng, Baichuan
Pubblicazione: (2025)
Representation Without Reward: A JEPA Audit for LLM Fine-Tuning
di: Sengupta, Biswa
Pubblicazione: (2026)
di: Sengupta, Biswa
Pubblicazione: (2026)
Adaptive Ensembles of Fine-Tuned Transformers for LLM-Generated Text Detection
di: Lai, Zhixin, et al.
Pubblicazione: (2024)
di: Lai, Zhixin, et al.
Pubblicazione: (2024)
iTool: Reinforced Fine-Tuning with Dynamic Deficiency Calibration for Advanced Tool Use
di: Zeng, Yirong, et al.
Pubblicazione: (2025)
di: Zeng, Yirong, et al.
Pubblicazione: (2025)
Zeroth-Order Fine-Tuning of LLMs in Random Subspaces
di: Yu, Ziming, et al.
Pubblicazione: (2024)
di: Yu, Ziming, et al.
Pubblicazione: (2024)
SplitFrozen: Split Learning with Device-side Model Frozen for Fine-Tuning LLM on Heterogeneous Resource-Constrained Devices
di: Ma, Jian, et al.
Pubblicazione: (2025)
di: Ma, Jian, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Data Value in the Age of Scaling: Understanding LLM Scaling Dynamics Under Real-Synthetic Data Mixtures
di: Wang, Haohui, et al.
Pubblicazione: (2025) -
HalluGuard: Demystifying Data-Driven and Reasoning-Driven Hallucinations in LLMs
di: Zeng, Xinyue, et al.
Pubblicazione: (2026) -
Alignment Dynamics in LLM Fine-Tuning
di: Huang, Yuhan, et al.
Pubblicazione: (2026) -
HeroFilter: Adaptive Spectral Graph Filter for Varying Heterophilic Relations
di: Zhang, Shuaicheng, et al.
Pubblicazione: (2025) -
Mitigating Training Imbalance in LLM Fine-Tuning via Selective Parameter Merging
di: Ju, Yiming, et al.
Pubblicazione: (2024)