Buchumschlag

CoRA: Optimizing Low-Rank Adaptation with Common Subspace of Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Xiao, Xiaojun, Shen, Sen, Bao, Qiming, Rong, Hongfei, Liu, Kairui, Wang, Zhongsheng, Liu, Jiamou
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ChatLogic: Integrating Logic Programming with Large Language Models for Multi-Step Reasoning
von: Wang, Zhongsheng, et al.
Veröffentlicht: (2024)

BoRA: Bi-dimensional Weight-Decomposed Low-Rank Adaptation
von: Wang, Qiushi, et al.
Veröffentlicht: (2024)

CoRA: Covariate-Aware Adaptation of Time Series Foundation Models
von: Qin, Guo, et al.
Veröffentlicht: (2025)

ALoRA: Allocating Low-Rank Adaptation for Fine-tuning Large Language Models
von: Liu, Zequan, et al.
Veröffentlicht: (2024)

OLoRA: Orthonormal Low-Rank Adaptation of Large Language Models
von: Büyükakyüz, Kerim
Veröffentlicht: (2024)

CoRA: Collaborative Information Perception by Large Language Model's Weights for Recommendation
von: Liu, Yuting, et al.
Veröffentlicht: (2024)

NLoRA: Nyström-Initiated Low-Rank Adaptation for Large Language Models
von: Guo, Chenlu, et al.
Veröffentlicht: (2025)

Derivative-Free Optimization for Low-Rank Adaptation in Large Language Models
von: Jin, Feihu, et al.
Veröffentlicht: (2024)

DenseLoRA: Dense Low-Rank Adaptation of Large Language Models
von: Mu, Lin, et al.
Veröffentlicht: (2025)

TLoRA: Task-aware Low Rank Adaptation of Large Language Models
von: Lin, Weicheng, et al.
Veröffentlicht: (2026)

Controlled Low-Rank Adaptation with Subspace Regularization for Continued Training on Large Language Models
von: Lu, Yuheng, et al.
Veröffentlicht: (2024)

R-Debater: Retrieval-Augmented Debate Generation through Argumentative Memory
von: Li, Maoyuan, et al.
Veröffentlicht: (2025)

LoRA+: Efficient Low Rank Adaptation of Large Models
von: Hayou, Soufiane, et al.
Veröffentlicht: (2024)

SSMLoRA: Enhancing Low-Rank Adaptation with State Space Model
von: Yu, Jiayang, et al.
Veröffentlicht: (2025)

MiLoRA: Efficient Mixture of Low-Rank Adaptation for Large Language Models Fine-tuning
von: Zhang, Jingfan, et al.
Veröffentlicht: (2024)

BeamLoRA: Beam-Constraint Low-Rank Adaptation
von: Gu, Naibin, et al.
Veröffentlicht: (2025)

TLoRA+: A Low-Rank Parameter-Efficient Fine-Tuning Method for Large Language Models
von: Cao, Yarui, et al.
Veröffentlicht: (2026)

QDyLoRA: Quantized Dynamic Low-Rank Adaptation for Efficient Large Language Model Tuning
von: Rajabzadeh, Hossein, et al.
Veröffentlicht: (2024)

Assessing and Enhancing the Robustness of Large Language Models with Task Structure Variations for Logical Reasoning
von: Bao, Qiming, et al.
Veröffentlicht: (2023)

Astra: Activation-Space Tail-Eigenvector Low-Rank Adaptation of Large Language Models
von: Liu, Kainan, et al.
Veröffentlicht: (2026)

Scalable Bayesian Low-Rank Adaptation of Large Language Models via Stochastic Variational Subspace Inference
von: Samplawski, Colin, et al.
Veröffentlicht: (2025)

DoRA: Weight-Decomposed Low-Rank Adaptation
von: Liu, Shih-Yang, et al.
Veröffentlicht: (2024)

ASLoRA: Adaptive Sharing Low-Rank Adaptation Across Layers
von: Hu, Junyan, et al.
Veröffentlicht: (2024)

PRILoRA: Pruned and Rank-Increasing Low-Rank Adaptation
von: Benedek, Nadav, et al.
Veröffentlicht: (2024)

HaLoRA: Hardware-aware Low-Rank Adaptation for Large Language Models Based on Hybrid Compute-in-Memory Architecture
von: Wu, Taiqiang, et al.
Veröffentlicht: (2025)

AFLoRA: Adaptive Freezing of Low Rank Adaptation in Parameter Efficient Fine-Tuning of Large Models
von: Liu, Zeyu, et al.
Veröffentlicht: (2024)

BA-LoRA: Bias-Alleviating Low-Rank Adaptation to Mitigate Catastrophic Inheritance in Large Language Models
von: Chang, Yupeng, et al.
Veröffentlicht: (2024)

MTL-LoRA: Low-Rank Adaptation for Multi-Task Learning
von: Yang, Yaming, et al.
Veröffentlicht: (2024)

AdaPreLoRA: Adafactor Preconditioned Low-Rank Adaptation
von: Liu, Ziyun, et al.
Veröffentlicht: (2026)

DiffLoRA: Differential Low-Rank Adapters for Large Language Models
von: Misrahi, Alexandre, et al.
Veröffentlicht: (2025)

SBoRA: Low-Rank Adaptation with Regional Weight Updates
von: Po, Lai-Man, et al.
Veröffentlicht: (2024)

TableLoRA: Low-rank Adaptation on Table Structure Understanding for Large Language Models
von: He, Xinyi, et al.
Veröffentlicht: (2025)

Why LoRA Fails to Forget: Regularized Low-Rank Adaptation Against Backdoors in Language Models
von: Luong, Hoang-Chau, et al.
Veröffentlicht: (2026)

AILoRA: Function-Aware Asymmetric Initialization for Low-Rank Adaptation of Large Language Models
von: Ji, Xiaoshuang, et al.
Veröffentlicht: (2025)

ShareLoRA: Parameter Efficient and Robust Large Language Model Fine-tuning via Shared Low-Rank Adaptation
von: Song, Yurun, et al.
Veröffentlicht: (2024)

CSULoRA: Closest Safe Update Low-Rank Adaptation
von: Breneur, Oleksandr Marchenko, et al.
Veröffentlicht: (2026)

LoRA-GA: Low-Rank Adaptation with Gradient Approximation
von: Wang, Shaowen, et al.
Veröffentlicht: (2024)

BiLoRA: A Bi-level Optimization Framework for Overfitting-Resilient Low-Rank Adaptation of Large Pre-trained Models
von: Qiang, Rushi, et al.
Veröffentlicht: (2024)

TeamLoRA: Boosting Low-Rank Adaptation with Expert Collaboration and Competition
von: Lin, Tianwei, et al.
Veröffentlicht: (2024)

Flexora: Flexible Low Rank Adaptation for Large Language Models
von: Wei, Chenxing, et al.
Veröffentlicht: (2024)