Copertina

RoseLoRA: Row and Column-wise Sparse Low-rank Adaptation of Pre-trained Language Model for Knowledge Editing and Fine-tuning

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Wang, Haoyu, Liu, Tianci, Li, Ruirui, Cheng, Monica, Zhao, Tuo, Gao, Jing
Natura:	Preprint
Pubblicazione:	2024
Soggetti:	Computation and Language
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

PrunedLoRA: Robust Gradient-Based structured pruning for Low-rank Adaptation in Fine-tuning
di: Yu, Xin, et al.
Pubblicazione: (2025)

Unlocking Efficient, Scalable, and Continual Knowledge Editing with Basis-Level Representation Fine-Tuning
di: Liu, Tianci, et al.
Pubblicazione: (2025)

C-LoRA: Continual Low-Rank Adaptation for Pre-trained Models
di: Zhang, Xin, et al.
Pubblicazione: (2025)

Mitigating Heterogeneous Token Overfitting in LLM Knowledge Editing
di: Liu, Tianci, et al.
Pubblicazione: (2025)

DropLoRA: Sparse Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
di: Zhang, Haojie
Pubblicazione: (2025)

TableLoRA: Low-rank Adaptation on Table Structure Understanding for Large Language Models
di: He, Xinyi, et al.
Pubblicazione: (2025)

MeLo: Low-rank Adaptation is Better than Fine-tuning for Medical Image Diagnosis
di: Zhu, Yitao, et al.
Pubblicazione: (2023)

MiLoRA: Efficient Mixture of Low-Rank Adaptation for Large Language Models Fine-tuning
di: Zhang, Jingfan, et al.
Pubblicazione: (2024)

SC-LoRA: Balancing Efficient Fine-tuning and Knowledge Preservation via Subspace-Constrained LoRA
di: Luo, Minrui, et al.
Pubblicazione: (2025)

LoCO: Low-rank Compositional Rotation Fine-tuning
di: Nguyen, An, et al.
Pubblicazione: (2026)

SaRA: High-Efficient Diffusion Model Fine-tuning with Progressive Sparse Low-Rank Adaptation
di: Hu, Teng, et al.
Pubblicazione: (2024)

ST-LoRA: Low-rank Adaptation for Spatio-Temporal Forecasting
di: Ruan, Weilin, et al.
Pubblicazione: (2024)

DeLoRA: Decoupling Angles and Strength in Low-rank Adaptation
di: Bini, Massimo, et al.
Pubblicazione: (2025)

GeLoRA: Geometric Adaptive Ranks For Efficient LoRA Fine-tuning
di: Ed-dib, Abdessalam, et al.
Pubblicazione: (2024)

IntLoRA: Integral Low-rank Adaptation of Quantized Diffusion Models
di: Guo, Hang, et al.
Pubblicazione: (2024)

MetaLoRA: Tensor-Enhanced Adaptive Low-Rank Fine-tuning
di: Wang, Maolin, et al.
Pubblicazione: (2025)

LoRA-FA: Efficient and Effective Low Rank Representation Fine-tuning
di: Zhang, Longteng, et al.
Pubblicazione: (2023)

AdaPreLoRA: Adafactor Preconditioned Low-Rank Adaptation
di: Liu, Ziyun, et al.
Pubblicazione: (2026)

Pre-training, Fine-tuning and Re-ranking: A Three-Stage Framework for Legal Question Answering
di: Ni, Shiwen, et al.
Pubblicazione: (2024)

Sparse is Enough in Fine-tuning Pre-trained Large Language Models
di: Song, Weixi, et al.
Pubblicazione: (2023)

Layer-wise LoRA fine-tuning: a similarity metric approach
di: Ogawa, Keith Ando, et al.
Pubblicazione: (2026)

Activated LoRA: Fine-tuned LLMs for Intrinsics
di: Greenewald, Kristjan, et al.
Pubblicazione: (2025)

Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
di: Shen, Yixin
Pubblicazione: (2025)

Put the Space of LoRA Initialization to the Extreme to Preserve Pre-trained Knowledge
di: Tang, Pengwei, et al.
Pubblicazione: (2025)

FALQON: Accelerating LoRA Fine-tuning with Low-Bit Floating-Point Arithmetic
di: Choi, Kanghyun, et al.
Pubblicazione: (2025)

LoRA-BAM: Input Filtering for Fine-tuned LLMs via Boxed Abstraction Monitors over LoRA Layers
di: Wu, Changshun, et al.
Pubblicazione: (2025)

ShareLoRA: Parameter Efficient and Robust Large Language Model Fine-tuning via Shared Low-Rank Adaptation
di: Song, Yurun, et al.
Pubblicazione: (2024)

LoRA-Leak: Membership Inference Attacks Against LoRA Fine-tuned Language Models
di: Ran, Delong, et al.
Pubblicazione: (2025)

LOST: Low-rank and Sparse Pre-training for Large Language Models
di: Li, Jiaxi, et al.
Pubblicazione: (2025)

LoRA vs Full Fine-tuning: An Illusion of Equivalence
di: Shuttleworth, Reece, et al.
Pubblicazione: (2024)

ALoRA: Allocating Low-Rank Adaptation for Fine-tuning Large Language Models
di: Liu, Zequan, et al.
Pubblicazione: (2024)

LoRA-Edit: Controllable First-Frame-Guided Video Editing via Mask-Aware LoRA Fine-Tuning
di: Gao, Chenjian, et al.
Pubblicazione: (2025)

Block-wise LoRA: Revisiting Fine-grained LoRA for Effective Personalization and Stylization in Text-to-Image Generation
di: Li, Likun, et al.
Pubblicazione: (2024)

Improving Low-Resource Knowledge Tracing Tasks by Supervised Pre-training and Importance Mechanism Fine-tuning
di: Zhang, Hengyuan, et al.
Pubblicazione: (2024)

PreLoRA: Hybrid Pre-training of Vision Transformers with Full Training and Low-Rank Adapters
di: Thapa, Krishu K, et al.
Pubblicazione: (2025)

GPTQ-intrinsic LoRA: A Near-optimal Algorithm for Low-precision Quantization with Low-rank Adaptation
di: Zhang, Shihao, et al.
Pubblicazione: (2026)

Computational Limits of Low-Rank Adaptation (LoRA) Fine-Tuning for Transformer Models
di: Hu, Jerry Yao-Chieh, et al.
Pubblicazione: (2024)

GraLoRA: Granular Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
di: Jung, Yeonjoon, et al.
Pubblicazione: (2025)

FedLoDrop: Federated LoRA with Dropout for Generalized LLM Fine-tuning
di: Xie, Sijing, et al.
Pubblicazione: (2025)

SPAFIT: Stratified Progressive Adaptation Fine-tuning for Pre-trained Large Language Models
di: Arora, Samir, et al.
Pubblicazione: (2024)