ShapLoRA: Allocation of Low-rank Adaption on Large Language Models via Shapley Value Inspired Importance Estimation
Fuente:
arXiv
Salvato in:
| Autori principali: | Zhao, Yi, Yao, Qinghua, song, Xinyuan, Zhu, Wei |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
ResLoRA: Identity Residual Mapping in Low-Rank Adaption
di: Shi, Shuhua, et al.
Pubblicazione: (2024)
di: Shi, Shuhua, et al.
Pubblicazione: (2024)
MiLoRA: Efficient Mixture of Low-Rank Adaptation for Large Language Models Fine-tuning
di: Zhang, Jingfan, et al.
Pubblicazione: (2024)
di: Zhang, Jingfan, et al.
Pubblicazione: (2024)
TableLoRA: Low-rank Adaptation on Table Structure Understanding for Large Language Models
di: He, Xinyi, et al.
Pubblicazione: (2025)
di: He, Xinyi, et al.
Pubblicazione: (2025)
ALoRA: Allocating Low-Rank Adaptation for Fine-tuning Large Language Models
di: Liu, Zequan, et al.
Pubblicazione: (2024)
di: Liu, Zequan, et al.
Pubblicazione: (2024)
BoRA: Bayesian Hierarchical Low-Rank Adaption for Multi-Task Large Language Models
di: Eide, Simen, et al.
Pubblicazione: (2024)
di: Eide, Simen, et al.
Pubblicazione: (2024)
TriAdaptLoRA: Brain-Inspired Triangular Adaptive Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
di: Liang, Yao, et al.
Pubblicazione: (2025)
di: Liang, Yao, et al.
Pubblicazione: (2025)
FIM-LoRA: Task-Informative Rank Allocation for LoRA via Calibration-Time Gradient-Variance Estimation
di: Sathyavageeswaran, Ramakrishnan
Pubblicazione: (2026)
di: Sathyavageeswaran, Ramakrishnan
Pubblicazione: (2026)
LoRA-Gen: Specializing Large Language Model via Online LoRA Generation
di: Xiao, Yicheng, et al.
Pubblicazione: (2025)
di: Xiao, Yicheng, et al.
Pubblicazione: (2025)
TokenSHAP: Interpreting Large Language Models with Monte Carlo Shapley Value Estimation
di: Goldshmidt, Roni, et al.
Pubblicazione: (2024)
di: Goldshmidt, Roni, et al.
Pubblicazione: (2024)
AgentSHAP: Interpreting LLM Agent Tool Importance with Monte Carlo Shapley Value Estimation
di: Horovicz, Miriam
Pubblicazione: (2025)
di: Horovicz, Miriam
Pubblicazione: (2025)
LQ-LoRA: Low-rank Plus Quantized Matrix Decomposition for Efficient Language Model Finetuning
di: Guo, Han, et al.
Pubblicazione: (2023)
di: Guo, Han, et al.
Pubblicazione: (2023)
DiffLoRA: Differential Low-Rank Adapters for Large Language Models
di: Misrahi, Alexandre, et al.
Pubblicazione: (2025)
di: Misrahi, Alexandre, et al.
Pubblicazione: (2025)
ID-LoRA: Efficient Low-Rank Adaptation Inspired by Matrix Interpolative Decomposition
di: Ma, Xindian, et al.
Pubblicazione: (2026)
di: Ma, Xindian, et al.
Pubblicazione: (2026)
Make LoRA Great Again: Boosting LoRA with Adaptive Singular Values and Mixture-of-Experts Optimization Alignment
di: Fan, Chenghao, et al.
Pubblicazione: (2025)
di: Fan, Chenghao, et al.
Pubblicazione: (2025)
LoRA-Flow: Dynamic LoRA Fusion for Large Language Models in Generative Tasks
di: Wang, Hanqing, et al.
Pubblicazione: (2024)
di: Wang, Hanqing, et al.
Pubblicazione: (2024)
DeLoRA: Decoupling Angles and Strength in Low-rank Adaptation
di: Bini, Massimo, et al.
Pubblicazione: (2025)
di: Bini, Massimo, et al.
Pubblicazione: (2025)
LoRA$^2$ : Multi-Scale Low-Rank Approximations for Fine-Tuning Large Language Models
di: Zhang, Jia-Chen, et al.
Pubblicazione: (2024)
di: Zhang, Jia-Chen, et al.
Pubblicazione: (2024)
SARA: Singular-Value Based Adaptive Low-Rank Adaption
di: Gu, Jihao, et al.
Pubblicazione: (2024)
di: Gu, Jihao, et al.
Pubblicazione: (2024)
BA-LoRA: Bias-Alleviating Low-Rank Adaptation to Mitigate Catastrophic Inheritance in Large Language Models
di: Chang, Yupeng, et al.
Pubblicazione: (2024)
di: Chang, Yupeng, et al.
Pubblicazione: (2024)
RoseLoRA: Row and Column-wise Sparse Low-rank Adaptation of Pre-trained Language Model for Knowledge Editing and Fine-tuning
di: Wang, Haoyu, et al.
Pubblicazione: (2024)
di: Wang, Haoyu, et al.
Pubblicazione: (2024)
PeriodicLoRA: Breaking the Low-Rank Bottleneck in LoRA Optimization
di: Meng, Xiangdi, et al.
Pubblicazione: (2024)
di: Meng, Xiangdi, et al.
Pubblicazione: (2024)
HyperAdaLoRA: Accelerating LoRA Rank Allocation During Training via Hypernetworks without Sacrificing Performance
di: Zhang, Hao, et al.
Pubblicazione: (2025)
di: Zhang, Hao, et al.
Pubblicazione: (2025)
DenseLoRA: Dense Low-Rank Adaptation of Large Language Models
di: Mu, Lin, et al.
Pubblicazione: (2025)
di: Mu, Lin, et al.
Pubblicazione: (2025)
WeShap: Weak Supervision Source Evaluation with Shapley Values
di: Guan, Naiqing, et al.
Pubblicazione: (2024)
di: Guan, Naiqing, et al.
Pubblicazione: (2024)
DistShap: Scalable GNN Explanations with Distributed Shapley Values
di: Akkas, Selahattin, et al.
Pubblicazione: (2025)
di: Akkas, Selahattin, et al.
Pubblicazione: (2025)
Adapting Large Language Models to a Low-Resource Agglutinative Language: A Comparative Study of LoRA and QLoRA for Bashkir
di: Arabov, Mullosharaf K., et al.
Pubblicazione: (2026)
di: Arabov, Mullosharaf K., et al.
Pubblicazione: (2026)
ShareLoRA: Parameter Efficient and Robust Large Language Model Fine-tuning via Shared Low-Rank Adaptation
di: Song, Yurun, et al.
Pubblicazione: (2024)
di: Song, Yurun, et al.
Pubblicazione: (2024)
QDyLoRA: Quantized Dynamic Low-Rank Adaptation for Efficient Large Language Model Tuning
di: Rajabzadeh, Hossein, et al.
Pubblicazione: (2024)
di: Rajabzadeh, Hossein, et al.
Pubblicazione: (2024)
LoRASuite: Efficient LoRA Adaptation Across Large Language Model Upgrades
di: Li, Yanan, et al.
Pubblicazione: (2025)
di: Li, Yanan, et al.
Pubblicazione: (2025)
$D^2LoRA$: Data-Driven LoRA Initialization for Low Resource Tasks
di: SeraJ, Javad, et al.
Pubblicazione: (2025)
di: SeraJ, Javad, et al.
Pubblicazione: (2025)
LoRA-drop: Efficient LoRA Parameter Pruning based on Output Evaluation
di: Zhou, Hongyun, et al.
Pubblicazione: (2024)
di: Zhou, Hongyun, et al.
Pubblicazione: (2024)
TokenShapley: Token Level Context Attribution with Shapley Value
di: Xiao, Yingtai, et al.
Pubblicazione: (2025)
di: Xiao, Yingtai, et al.
Pubblicazione: (2025)
MinShap: A Modified Shapley Value Approach for Feature Selection
di: Zheng, Chenghui, et al.
Pubblicazione: (2026)
di: Zheng, Chenghui, et al.
Pubblicazione: (2026)
Explaining Large Language Models Decisions Using Shapley Values
di: Mohammadi, Behnam
Pubblicazione: (2024)
di: Mohammadi, Behnam
Pubblicazione: (2024)
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts
di: Li, Dengchun, et al.
Pubblicazione: (2024)
di: Li, Dengchun, et al.
Pubblicazione: (2024)
LoRA+: Efficient Low Rank Adaptation of Large Models
di: Hayou, Soufiane, et al.
Pubblicazione: (2024)
di: Hayou, Soufiane, et al.
Pubblicazione: (2024)
NLoRA: Nyström-Initiated Low-Rank Adaptation for Large Language Models
di: Guo, Chenlu, et al.
Pubblicazione: (2025)
di: Guo, Chenlu, et al.
Pubblicazione: (2025)
LoRE-Merging: Exploring Low-Rank Estimation For Large Language Model Merging
di: Liu, Zehua, et al.
Pubblicazione: (2025)
di: Liu, Zehua, et al.
Pubblicazione: (2025)
A Survey on LoRA of Large Language Models
di: Mao, Yuren, et al.
Pubblicazione: (2024)
di: Mao, Yuren, et al.
Pubblicazione: (2024)
Gradient-Based LoRA Rank Allocation Under GRPO: An Empirical Study
di: Sawant, Yash Ganpat
Pubblicazione: (2026)
di: Sawant, Yash Ganpat
Pubblicazione: (2026)
Documenti analoghi
-
ResLoRA: Identity Residual Mapping in Low-Rank Adaption
di: Shi, Shuhua, et al.
Pubblicazione: (2024) -
MiLoRA: Efficient Mixture of Low-Rank Adaptation for Large Language Models Fine-tuning
di: Zhang, Jingfan, et al.
Pubblicazione: (2024) -
TableLoRA: Low-rank Adaptation on Table Structure Understanding for Large Language Models
di: He, Xinyi, et al.
Pubblicazione: (2025) -
ALoRA: Allocating Low-Rank Adaptation for Fine-tuning Large Language Models
di: Liu, Zequan, et al.
Pubblicazione: (2024) -
BoRA: Bayesian Hierarchical Low-Rank Adaption for Multi-Task Large Language Models
di: Eide, Simen, et al.
Pubblicazione: (2024)