Parameter-Efficient Fine-Tuning with Circulant and Diagonal Vectors
Fuente:
arXiv
Salvato in:
| Autori principali: | Ding, Xinyu, Chen, Lexuan, Liao, Siyu, Wang, Zhongfeng |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Block Circulant Adapter for Large Language Models
di: Ding, Xinyu, et al.
Pubblicazione: (2025)
di: Ding, Xinyu, et al.
Pubblicazione: (2025)
Memory-Efficient Training with In-Place FFT Implementation
di: Ding, Xinyu, et al.
Pubblicazione: (2025)
di: Ding, Xinyu, et al.
Pubblicazione: (2025)
CDFlow: Building Invertible Layers with Circulant and Diagonal Matrices
di: Feng, Xuchen, et al.
Pubblicazione: (2025)
di: Feng, Xuchen, et al.
Pubblicazione: (2025)
A Layer-wise Analysis of Supervised Fine-Tuning
di: Zhao, Qinghua, et al.
Pubblicazione: (2026)
di: Zhao, Qinghua, et al.
Pubblicazione: (2026)
SVFT: Parameter-Efficient Fine-Tuning with Singular Vectors
di: Lingam, Vijay, et al.
Pubblicazione: (2024)
di: Lingam, Vijay, et al.
Pubblicazione: (2024)
PERFT: Parameter-Efficient Routed Fine-Tuning for Mixture-of-Expert Model
di: Liu, Yilun, et al.
Pubblicazione: (2024)
di: Liu, Yilun, et al.
Pubblicazione: (2024)
Parameter-Efficient Fine-Tuning with Discrete Fourier Transform
di: Gao, Ziqi, et al.
Pubblicazione: (2024)
di: Gao, Ziqi, et al.
Pubblicazione: (2024)
Parameter Efficient Quasi-Orthogonal Fine-Tuning via Givens Rotation
di: Ma, Xinyu, et al.
Pubblicazione: (2024)
di: Ma, Xinyu, et al.
Pubblicazione: (2024)
Parameter Efficient Mamba Tuning via Projector-targeted Diagonal-centric Linear Transformation
di: Ham, Seokil, et al.
Pubblicazione: (2024)
di: Ham, Seokil, et al.
Pubblicazione: (2024)
Meta-Learning Hyperparameters for Parameter Efficient Fine-Tuning
di: Tian, Zichen, et al.
Pubblicazione: (2026)
di: Tian, Zichen, et al.
Pubblicazione: (2026)
Parameter-Efficient Fine-Tuning via Circular Convolution
di: Chen, Aochuan, et al.
Pubblicazione: (2024)
di: Chen, Aochuan, et al.
Pubblicazione: (2024)
Parameter-Efficient Fine-Tuning for Foundation Models
di: Zhang, Dan, et al.
Pubblicazione: (2025)
di: Zhang, Dan, et al.
Pubblicazione: (2025)
Certified PEFTSmoothing: Parameter-Efficient Fine-Tuning with Randomized Smoothing
di: Fu, Chengyan, et al.
Pubblicazione: (2024)
di: Fu, Chengyan, et al.
Pubblicazione: (2024)
Memba: Membrane-driven Parameter-Efficient Fine-Tuning for Mamba
di: Lee, Donghyun, et al.
Pubblicazione: (2025)
di: Lee, Donghyun, et al.
Pubblicazione: (2025)
Bayesian Parameter-Efficient Fine-Tuning for Overcoming Catastrophic Forgetting
di: Chen, Haolin, et al.
Pubblicazione: (2024)
di: Chen, Haolin, et al.
Pubblicazione: (2024)
Task-Adaptive Parameter-Efficient Fine-Tuning for Weather Foundation Models
di: Cao, Shilei, et al.
Pubblicazione: (2025)
di: Cao, Shilei, et al.
Pubblicazione: (2025)
Memory-Efficient Backpropagation for Fine-Tuning LLMs on Resource-Constrained Mobile Devices
di: Song, Congzheng, et al.
Pubblicazione: (2025)
di: Song, Congzheng, et al.
Pubblicazione: (2025)
Parameter-Efficient Routed Fine-Tuning: Mixture-of-Experts Demands Mixture of Adaptation Modules
di: Liu, Yilun, et al.
Pubblicazione: (2025)
di: Liu, Yilun, et al.
Pubblicazione: (2025)
Parameter-Efficient Continual Fine-Tuning: A Survey
di: Coleman, Eric Nuertey, et al.
Pubblicazione: (2025)
di: Coleman, Eric Nuertey, et al.
Pubblicazione: (2025)
Parameter-Efficient Fine-Tuning of State Space Models
di: Galim, Kevin, et al.
Pubblicazione: (2024)
di: Galim, Kevin, et al.
Pubblicazione: (2024)
Exploring Parameter-Efficient Fine-Tuning to Enable Foundation Models in Federated Learning
di: Sun, Guangyu, et al.
Pubblicazione: (2022)
di: Sun, Guangyu, et al.
Pubblicazione: (2022)
Parameter-Efficient Fine-Tuning for Large Models: A Comprehensive Survey
di: Han, Zeyu, et al.
Pubblicazione: (2024)
di: Han, Zeyu, et al.
Pubblicazione: (2024)
SMoA: Spectrum Modulation Adapter for Parameter-Efficient Fine-Tuning
di: Liu, Yongkang, et al.
Pubblicazione: (2026)
di: Liu, Yongkang, et al.
Pubblicazione: (2026)
F-Adapter: Frequency-Adaptive Parameter-Efficient Fine-Tuning in Scientific Machine Learning
di: Zhang, Hangwei, et al.
Pubblicazione: (2025)
di: Zhang, Hangwei, et al.
Pubblicazione: (2025)
Automated Federated Pipeline for Parameter-Efficient Fine-Tuning of Large Language Models
di: Fang, Zihan, et al.
Pubblicazione: (2024)
di: Fang, Zihan, et al.
Pubblicazione: (2024)
State-offset Tuning: State-based Parameter-Efficient Fine-Tuning for State Space Models
di: Kang, Wonjun, et al.
Pubblicazione: (2025)
di: Kang, Wonjun, et al.
Pubblicazione: (2025)
Parameter-Efficient Fine-Tuning in Large Models: A Survey of Methodologies
di: Wang, Luping, et al.
Pubblicazione: (2024)
di: Wang, Luping, et al.
Pubblicazione: (2024)
From Parameters to Data: A Task-Parameter-Guided Fine-Tuning Pipeline for Efficient LLM Alignment
di: Chen, Hao, et al.
Pubblicazione: (2026)
di: Chen, Hao, et al.
Pubblicazione: (2026)
Generalized Tensor-based Parameter-Efficient Fine-Tuning via Lie Group Transformations
di: Si, Chongjie, et al.
Pubblicazione: (2025)
di: Si, Chongjie, et al.
Pubblicazione: (2025)
Parameter-Efficient Fine-Tuning of LLaMA for the Clinical Domain
di: Gema, Aryo Pradipta, et al.
Pubblicazione: (2023)
di: Gema, Aryo Pradipta, et al.
Pubblicazione: (2023)
MoRA: High-Rank Updating for Parameter-Efficient Fine-Tuning
di: Jiang, Ting, et al.
Pubblicazione: (2024)
di: Jiang, Ting, et al.
Pubblicazione: (2024)
BoHA: Blockwise Hadamard Product Adaptation for Parameter-Efficient Fine-Tuning
di: Yu, Feng, et al.
Pubblicazione: (2025)
di: Yu, Feng, et al.
Pubblicazione: (2025)
FuRA: Full-Rank Parameter-Efficient Fine-Tuning with Spectral Preconditioning
di: Zhao, Yequan, et al.
Pubblicazione: (2026)
di: Zhao, Yequan, et al.
Pubblicazione: (2026)
On Catastrophic Forgetting in Low-Rank Decomposition-Based Parameter-Efficient Fine-Tuning
di: Ahmad, Muhammad, et al.
Pubblicazione: (2026)
di: Ahmad, Muhammad, et al.
Pubblicazione: (2026)
Towards Scalable Exact Machine Unlearning Using Parameter-Efficient Fine-Tuning
di: Chowdhury, Somnath Basu Roy, et al.
Pubblicazione: (2024)
di: Chowdhury, Somnath Basu Roy, et al.
Pubblicazione: (2024)
Spectrum-Aware Parameter Efficient Fine-Tuning for Diffusion Models
di: Zhang, Xinxi, et al.
Pubblicazione: (2024)
di: Zhang, Xinxi, et al.
Pubblicazione: (2024)
A Survey on Parameter-Efficient Fine-Tuning for Foundation Models in Federated Learning
di: Bian, Jieming, et al.
Pubblicazione: (2025)
di: Bian, Jieming, et al.
Pubblicazione: (2025)
Look Within or Look Beyond? A Theoretical Comparison Between Parameter-Efficient and Full Fine-Tuning
di: Liu, Yongkang, et al.
Pubblicazione: (2025)
di: Liu, Yongkang, et al.
Pubblicazione: (2025)
PiCa: Parameter-Efficient Fine-Tuning with Column Space Projection
di: Hwang, Junseo, et al.
Pubblicazione: (2025)
di: Hwang, Junseo, et al.
Pubblicazione: (2025)
From LLMs to Edge: Parameter-Efficient Fine-Tuning on Edge Devices
di: Slamanig, Georg, et al.
Pubblicazione: (2025)
di: Slamanig, Georg, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Block Circulant Adapter for Large Language Models
di: Ding, Xinyu, et al.
Pubblicazione: (2025) -
Memory-Efficient Training with In-Place FFT Implementation
di: Ding, Xinyu, et al.
Pubblicazione: (2025) -
CDFlow: Building Invertible Layers with Circulant and Diagonal Matrices
di: Feng, Xuchen, et al.
Pubblicazione: (2025) -
A Layer-wise Analysis of Supervised Fine-Tuning
di: Zhao, Qinghua, et al.
Pubblicazione: (2026) -
SVFT: Parameter-Efficient Fine-Tuning with Singular Vectors
di: Lingam, Vijay, et al.
Pubblicazione: (2024)