Buchumschlag

Parameter-Efficient Fine-Tuning for Large Models: A Comprehensive Survey

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Han, Zeyu, Gao, Chao, Liu, Jinyang, Zhang, Jeff, Zhang, Sai Qian
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

DLoRA: Distributed Parameter-Efficient Fine-Tuning Solution for Large Language Model
von: Gao, Chao, et al.
Veröffentlicht: (2024)

Parameter Efficient Fine Tuning: A Comprehensive Analysis Across Applications
von: Balne, Charith Chandra Sai, et al.
Veröffentlicht: (2024)

Parameter-Efficient Fine-Tuning in Large Models: A Survey of Methodologies
von: Wang, Luping, et al.
Veröffentlicht: (2024)

SPP: Sparsity-Preserved Parameter-Efficient Fine-Tuning for Large Language Models
von: Lu, Xudong, et al.
Veröffentlicht: (2024)

Parameter-Efficient Continual Fine-Tuning: A Survey
von: Coleman, Eric Nuertey, et al.
Veröffentlicht: (2025)

SVFit: Parameter-Efficient Fine-Tuning of Large Pre-Trained Models Using Singular Values
von: Sun, Chengwei, et al.
Veröffentlicht: (2024)

AFLoRA: Adaptive Freezing of Low Rank Adaptation in Parameter Efficient Fine-Tuning of Large Models
von: Liu, Zeyu, et al.
Veröffentlicht: (2024)

Automated Federated Pipeline for Parameter-Efficient Fine-Tuning of Large Language Models
von: Fang, Zihan, et al.
Veröffentlicht: (2024)

Parameter-Efficient Fine-Tuning for Pre-Trained Vision Models: A Survey and Benchmark
von: Xin, Yi, et al.
Veröffentlicht: (2024)

A Survey on Parameter-Efficient Fine-Tuning for Foundation Models in Federated Learning
von: Bian, Jieming, et al.
Veröffentlicht: (2025)

Parameter-Efficient Fine-Tuning for Foundation Models
von: Zhang, Dan, et al.
Veröffentlicht: (2025)

SMoA: Spectrum Modulation Adapter for Parameter-Efficient Fine-Tuning
von: Liu, Yongkang, et al.
Veröffentlicht: (2026)

A Bayesian Hybrid Parameter-Efficient Fine-Tuning Method for Large Language Models
von: Chai, Yidong, et al.
Veröffentlicht: (2025)

PERFT: Parameter-Efficient Routed Fine-Tuning for Mixture-of-Expert Model
von: Liu, Yilun, et al.
Veröffentlicht: (2024)

Spectrum-Aware Parameter Efficient Fine-Tuning for Diffusion Models
von: Zhang, Xinxi, et al.
Veröffentlicht: (2024)

Parameter-Efficient Fine-Tuning via Circular Convolution
von: Chen, Aochuan, et al.
Veröffentlicht: (2024)

Meta-Learning Hyperparameters for Parameter Efficient Fine-Tuning
von: Tian, Zichen, et al.
Veröffentlicht: (2026)

HiFT: A Hierarchical Full Parameter Fine-Tuning Strategy
von: Liu, Yongkang, et al.
Veröffentlicht: (2024)

GenFT: A Generative Parameter-Efficient Fine-Tuning Method for Pretrained Foundation Models
von: Zhang, Baoquan, et al.
Veröffentlicht: (2025)

SplitLoRA: A Split Parameter-Efficient Fine-Tuning Framework for Large Language Models
von: Lin, Zheng, et al.
Veröffentlicht: (2024)

Task-Adaptive Parameter-Efficient Fine-Tuning for Weather Foundation Models
von: Cao, Shilei, et al.
Veröffentlicht: (2025)

BIPEFT: Budget-Guided Iterative Search for Parameter Efficient Fine-Tuning of Large Pretrained Language Models
von: Chang, Aofei, et al.
Veröffentlicht: (2024)

FuRA: Full-Rank Parameter-Efficient Fine-Tuning with Spectral Preconditioning
von: Zhao, Yequan, et al.
Veröffentlicht: (2026)

Parameter-Efficient Fine-Tuning with Discrete Fourier Transform
von: Gao, Ziqi, et al.
Veröffentlicht: (2024)

Parameter-Efficient Fine-Tuning of State Space Models
von: Galim, Kevin, et al.
Veröffentlicht: (2024)

From Parameters to Data: A Task-Parameter-Guided Fine-Tuning Pipeline for Efficient LLM Alignment
von: Chen, Hao, et al.
Veröffentlicht: (2026)

HSplitLoRA: A Heterogeneous Split Parameter-Efficient Fine-Tuning Framework for Large Language Models
von: Lin, Zheng, et al.
Veröffentlicht: (2025)

Task-Aware Parameter-Efficient Fine-Tuning of Large Pre-Trained Models at the Edge
von: Hu, Senkang, et al.
Veröffentlicht: (2025)

Less but Better: Parameter-Efficient Fine-Tuning of Large Language Models for Personality Detection
von: Shen, Lingzhi, et al.
Veröffentlicht: (2025)

Understanding and Guiding Layer Placement in Parameter-Efficient Fine-Tuning of Large Language Models
von: Xu, Yichen, et al.
Veröffentlicht: (2026)

Gradient Projection For Continual Parameter-Efficient Tuning
von: Qiao, Jingyang, et al.
Veröffentlicht: (2024)

Parameter Importance is Not Static: Evolving Parameter Isolation for Supervised Fine-Tuning
von: Lin, Zekai, et al.
Veröffentlicht: (2026)

Look Within or Look Beyond? A Theoretical Comparison Between Parameter-Efficient and Full Fine-Tuning
von: Liu, Yongkang, et al.
Veröffentlicht: (2025)

Parameter-Efficient Fine-Tuning with Circulant and Diagonal Vectors
von: Ding, Xinyu, et al.
Veröffentlicht: (2025)

State-offset Tuning: State-based Parameter-Efficient Fine-Tuning for State Space Models
von: Kang, Wonjun, et al.
Veröffentlicht: (2025)

IPGO: Indirect Prompt Gradient Optimization for Parameter-Efficient Prompt-level Fine-Tuning on Text-to-Image Models
von: Ye, Jianping, et al.
Veröffentlicht: (2025)

DropLoRA: Sparse Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
von: Zhang, Haojie
Veröffentlicht: (2025)

F-Adapter: Frequency-Adaptive Parameter-Efficient Fine-Tuning in Scientific Machine Learning
von: Zhang, Hangwei, et al.
Veröffentlicht: (2025)

LISA: Layerwise Importance Sampling for Memory-Efficient Large Language Model Fine-Tuning
von: Pan, Rui, et al.
Veröffentlicht: (2024)

Parameter-Efficient Fine-Tuning for Continual Learning: A Neural Tangent Kernel Perspective
von: Liu, Jingren, et al.
Veröffentlicht: (2024)