Flexora: Flexible Low Rank Adaptation for Large Language Models
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Wei, Chenxing, Shu, Yao, He, Ying Tiffany, Yu, Fei Richard |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
PAFT: Prompt-Agnostic Fine-Tuning
par: Wei, Chenxing, et autres
Publié: (2025)
par: Wei, Chenxing, et autres
Publié: (2025)
ReDit: Reward Dithering for Improved LLM Policy Optimization
par: Wei, Chenxing, et autres
Publié: (2025)
par: Wei, Chenxing, et autres
Publié: (2025)
LoRTA: Low Rank Tensor Adaptation of Large Language Models
par: Hounie, Ignacio, et autres
Publié: (2024)
par: Hounie, Ignacio, et autres
Publié: (2024)
DenseLoRA: Dense Low-Rank Adaptation of Large Language Models
par: Mu, Lin, et autres
Publié: (2025)
par: Mu, Lin, et autres
Publié: (2025)
TLoRA: Task-aware Low Rank Adaptation of Large Language Models
par: Lin, Weicheng, et autres
Publié: (2026)
par: Lin, Weicheng, et autres
Publié: (2026)
Controlled Low-Rank Adaptation with Subspace Regularization for Continued Training on Large Language Models
par: Lu, Yuheng, et autres
Publié: (2024)
par: Lu, Yuheng, et autres
Publié: (2024)
LoRA+: Efficient Low Rank Adaptation of Large Models
par: Hayou, Soufiane, et autres
Publié: (2024)
par: Hayou, Soufiane, et autres
Publié: (2024)
BLoB: Bayesian Low-Rank Adaptation by Backpropagation for Large Language Models
par: Wang, Yibin, et autres
Publié: (2024)
par: Wang, Yibin, et autres
Publié: (2024)
Penrose Tiled Low-Rank Compression and Section-Wise Q&A Fine-Tuning: A General Framework for Domain-Specific Large Language Model Adaptation
par: Kuo, Chuan-Wei, et autres
Publié: (2025)
par: Kuo, Chuan-Wei, et autres
Publié: (2025)
CoRA: Optimizing Low-Rank Adaptation with Common Subspace of Large Language Models
par: Xiao, Xiaojun, et autres
Publié: (2024)
par: Xiao, Xiaojun, et autres
Publié: (2024)
LoRE-Merging: Exploring Low-Rank Estimation For Large Language Model Merging
par: Liu, Zehua, et autres
Publié: (2025)
par: Liu, Zehua, et autres
Publié: (2025)
Less is More: Resource-Efficient Low-Rank Adaptation
par: Tian, Chunlin, et autres
Publié: (2025)
par: Tian, Chunlin, et autres
Publié: (2025)
SkipCat: Rank-Maximized Low-Rank Compression of Large Language Models via Shared Projection and Block Skipping
par: Lu, Yu-Chen, et autres
Publié: (2025)
par: Lu, Yu-Chen, et autres
Publié: (2025)
ShareLoRA: Parameter Efficient and Robust Large Language Model Fine-tuning via Shared Low-Rank Adaptation
par: Song, Yurun, et autres
Publié: (2024)
par: Song, Yurun, et autres
Publié: (2024)
Low-Resource Dialect Adaptation of Large Language Models: A French Dialect Case-Study
par: Khan, Eeham, et autres
Publié: (2025)
par: Khan, Eeham, et autres
Publié: (2025)
PRILoRA: Pruned and Rank-Increasing Low-Rank Adaptation
par: Benedek, Nadav, et autres
Publié: (2024)
par: Benedek, Nadav, et autres
Publié: (2024)
Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs
par: Wei, Chenxing, et autres
Publié: (2025)
par: Wei, Chenxing, et autres
Publié: (2025)
Scalable Bayesian Low-Rank Adaptation of Large Language Models via Stochastic Variational Subspace Inference
par: Samplawski, Colin, et autres
Publié: (2025)
par: Samplawski, Colin, et autres
Publié: (2025)
TeamLoRA: Boosting Low-Rank Adaptation with Expert Collaboration and Competition
par: Lin, Tianwei, et autres
Publié: (2024)
par: Lin, Tianwei, et autres
Publié: (2024)
Batched Low-Rank Adaptation of Foundation Models
par: Wen, Yeming, et autres
Publié: (2023)
par: Wen, Yeming, et autres
Publié: (2023)
LoRETTA: Low-Rank Economic Tensor-Train Adaptation for Ultra-Low-Parameter Fine-Tuning of Large Language Models
par: Yang, Yifan, et autres
Publié: (2024)
par: Yang, Yifan, et autres
Publié: (2024)
MSPLoRA: A Multi-Scale Pyramid Low-Rank Adaptation for Efficient Model Fine-Tuning
par: Zhao, Jiancheng, et autres
Publié: (2025)
par: Zhao, Jiancheng, et autres
Publié: (2025)
Thought Propagation: An Analogical Approach to Complex Reasoning with Large Language Models
par: Yu, Junchi, et autres
Publié: (2023)
par: Yu, Junchi, et autres
Publié: (2023)
DELIA: Diversity-Enhanced Learning for Instruction Adaptation in Large Language Models
par: Zeng, Yuanhao, et autres
Publié: (2024)
par: Zeng, Yuanhao, et autres
Publié: (2024)
Enhancing Low-Rank Adaptation with Structured Nonlinear Transformations
par: Deng, Guanzhi, et autres
Publié: (2025)
par: Deng, Guanzhi, et autres
Publié: (2025)
GaLore$+$: Boosting Low-Rank Adaptation for LLMs with Cross-Head Projection
par: Liao, Xutao, et autres
Publié: (2024)
par: Liao, Xutao, et autres
Publié: (2024)
LoLCATs: On Low-Rank Linearizing of Large Language Models
par: Zhang, Michael, et autres
Publié: (2024)
par: Zhang, Michael, et autres
Publié: (2024)
TriAdaptLoRA: Brain-Inspired Triangular Adaptive Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
par: Liang, Yao, et autres
Publié: (2025)
par: Liang, Yao, et autres
Publié: (2025)
The Expressive Power of Low-Rank Adaptation
par: Zeng, Yuchen, et autres
Publié: (2023)
par: Zeng, Yuchen, et autres
Publié: (2023)
GoRA: Gradient-driven Adaptive Low Rank Adaptation
par: He, Haonan, et autres
Publié: (2025)
par: He, Haonan, et autres
Publié: (2025)
EmoBench-M: Benchmarking Emotional Intelligence for Multimodal Large Language Models
par: Hu, He, et autres
Publié: (2025)
par: Hu, He, et autres
Publié: (2025)
MoR: Mixture of Ranks for Low-Rank Adaptation Tuning
par: Tang, Chuanyu, et autres
Publié: (2024)
par: Tang, Chuanyu, et autres
Publié: (2024)
TsqLoRA: Towards Sensitivity and Quality Low-Rank Adaptation for Efficient Fine-Tuning
par: Chen, Yu, et autres
Publié: (2025)
par: Chen, Yu, et autres
Publié: (2025)
GLoRIA: Gated Low-Rank Interpretable Adaptation for Dialectal ASR
par: Mehralian, Pouya, et autres
Publié: (2026)
par: Mehralian, Pouya, et autres
Publié: (2026)
Training-Free Bayesianization for Low-Rank Adapters of Large Language Models
par: Shi, Haizhou, et autres
Publié: (2024)
par: Shi, Haizhou, et autres
Publié: (2024)
Matrix-Transformation Based Low-Rank Adaptation (MTLoRA): A Brain-Inspired Method for Parameter-Efficient Fine-Tuning
par: Liang, Yao, et autres
Publié: (2024)
par: Liang, Yao, et autres
Publié: (2024)
SoLA: Leveraging Soft Activation Sparsity and Low-Rank Decomposition for Large Language Model Compression
par: Huang, Xinhao, et autres
Publié: (2026)
par: Huang, Xinhao, et autres
Publié: (2026)
AFLoRA: Adaptive Freezing of Low Rank Adaptation in Parameter Efficient Fine-Tuning of Large Models
par: Liu, Zeyu, et autres
Publié: (2024)
par: Liu, Zeyu, et autres
Publié: (2024)
LoR2C : Low-Rank Residual Connection Adaptation for Parameter-Efficient Fine-Tuning
par: Zhao, Jiancheng, et autres
Publié: (2025)
par: Zhao, Jiancheng, et autres
Publié: (2025)
Achieving Tokenizer Flexibility in Language Models through Heuristic Adaptation and Supertoken Learning
par: Sharthak, Shaurya, et autres
Publié: (2025)
par: Sharthak, Shaurya, et autres
Publié: (2025)
Documents similaires
-
PAFT: Prompt-Agnostic Fine-Tuning
par: Wei, Chenxing, et autres
Publié: (2025) -
ReDit: Reward Dithering for Improved LLM Policy Optimization
par: Wei, Chenxing, et autres
Publié: (2025) -
LoRTA: Low Rank Tensor Adaptation of Large Language Models
par: Hounie, Ignacio, et autres
Publié: (2024) -
DenseLoRA: Dense Low-Rank Adaptation of Large Language Models
par: Mu, Lin, et autres
Publié: (2025) -
TLoRA: Task-aware Low Rank Adaptation of Large Language Models
par: Lin, Weicheng, et autres
Publié: (2026)