Loquetier: A Virtualized Multi-LoRA Framework for Unified LLM Fine-tuning and Serving
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Zhang, Yuchen, Du, Hanyue, Cao, Chun, Xu, Jingwei |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
par: Shen, Yixin
Publié: (2025)
par: Shen, Yixin
Publié: (2025)
Activated LoRA: Fine-tuned LLMs for Intrinsics
par: Greenewald, Kristjan, et autres
Publié: (2025)
par: Greenewald, Kristjan, et autres
Publié: (2025)
S-LoRA: Serving Thousands of Concurrent LoRA Adapters
par: Sheng, Ying, et autres
Publié: (2023)
par: Sheng, Ying, et autres
Publié: (2023)
SC-LoRA: Balancing Efficient Fine-tuning and Knowledge Preservation via Subspace-Constrained LoRA
par: Luo, Minrui, et autres
Publié: (2025)
par: Luo, Minrui, et autres
Publié: (2025)
Learning Rate Matters: Vanilla LoRA May Suffice for LLM Fine-tuning
par: Lee, Yu-Ang, et autres
Publié: (2026)
par: Lee, Yu-Ang, et autres
Publié: (2026)
HAFLQ: Heterogeneous Adaptive Federated LoRA Fine-tuned LLM with Quantization
par: Su, Yang, et autres
Publié: (2024)
par: Su, Yang, et autres
Publié: (2024)
SDFLoRA: Selective Decoupled Federated LoRA for Privacy-preserving Fine-tuning with Heterogeneous Clients
par: Shen, Zhikang, et autres
Publié: (2026)
par: Shen, Zhikang, et autres
Publié: (2026)
FALQON: Accelerating LoRA Fine-tuning with Low-Bit Floating-Point Arithmetic
par: Choi, Kanghyun, et autres
Publié: (2025)
par: Choi, Kanghyun, et autres
Publié: (2025)
FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning
par: Bian, Jieming, et autres
Publié: (2026)
par: Bian, Jieming, et autres
Publié: (2026)
POLAR: Online Learning for LoRA Adapter Caching and Routing in Edge LLM Serving
par: Li, Shaoang, et autres
Publié: (2026)
par: Li, Shaoang, et autres
Publié: (2026)
ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
par: Zuo, Jingwei, et autres
Publié: (2026)
par: Zuo, Jingwei, et autres
Publié: (2026)
Improving the Serving Performance of Multi-LoRA Large Language Models via Efficient LoRA and KV Cache Management
par: Zhang, Hang, et autres
Publié: (2025)
par: Zhang, Hang, et autres
Publié: (2025)
R-LoRA: Randomized Multi-Head LoRA for Efficient Multi-Task Learning
par: Liu, Jinda, et autres
Publié: (2025)
par: Liu, Jinda, et autres
Publié: (2025)
Wireless Federated Multi-Task LLM Fine-Tuning via Sparse-and-Orthogonal LoRA
par: Yang, Nuocheng, et autres
Publié: (2026)
par: Yang, Nuocheng, et autres
Publié: (2026)
Serving Heterogeneous LoRA Adapters in Distributed LLM Inference Systems
par: Jaiswal, Shashwat, et autres
Publié: (2025)
par: Jaiswal, Shashwat, et autres
Publié: (2025)
KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
par: Azimi, Rambod, et autres
Publié: (2024)
par: Azimi, Rambod, et autres
Publié: (2024)
Rethinking the Rank Threshold for LoRA Fine-Tuning
par: Park, Juneyoung
Publié: (2026)
par: Park, Juneyoung
Publié: (2026)
LoRA Fine-tuning Efficiently Undoes Safety Training in Llama 2-Chat 70B
par: Lermen, Simon, et autres
Publié: (2023)
par: Lermen, Simon, et autres
Publié: (2023)
LoBAM: LoRA-Based Backdoor Attack on Model Merging
par: Yin, Ming, et autres
Publié: (2024)
par: Yin, Ming, et autres
Publié: (2024)
LoRA-Mixer: Coordinate Modular LoRA Experts Through Serial Attention Routing
par: Li, Wenbing, et autres
Publié: (2025)
par: Li, Wenbing, et autres
Publié: (2025)
SCALE-LoRA: Auditing Post-Retrieval LoRA Composition with Residual Merging and View Reliability
par: Zhou, Shuaipeng, et autres
Publié: (2026)
par: Zhou, Shuaipeng, et autres
Publié: (2026)
Skip2-LoRA: A Lightweight On-device DNN Fine-tuning Method for Low-cost Edge Devices
par: Matsutani, Hiroki, et autres
Publié: (2024)
par: Matsutani, Hiroki, et autres
Publié: (2024)
LoRA Land: 310 Fine-tuned LLMs that Rival GPT-4, A Technical Report
par: Zhao, Justin, et autres
Publié: (2024)
par: Zhao, Justin, et autres
Publié: (2024)
TT-LoRA MoE: Unifying Parameter-Efficient Fine-Tuning and Sparse Mixture-of-Experts
par: Kunwar, Pradip, et autres
Publié: (2025)
par: Kunwar, Pradip, et autres
Publié: (2025)
mLoRA: Fine-Tuning LoRA Adapters via Highly-Efficient Pipeline Parallelism in Multiple GPUs
par: Ye, Zhengmao, et autres
Publié: (2023)
par: Ye, Zhengmao, et autres
Publié: (2023)
EMLoC: Emulator-based Memory-efficient Fine-tuning with LoRA Correction
par: Lin, Hsi-Che, et autres
Publié: (2025)
par: Lin, Hsi-Che, et autres
Publié: (2025)
FedMomentum: Preserving LoRA Training Momentum in Federated Fine-Tuning
par: Yan, Peishen, et autres
Publié: (2026)
par: Yan, Peishen, et autres
Publié: (2026)
Origin Tracer: A Method for Detecting LoRA Fine-Tuning Origins in LLMs
par: Liang, Hongyu, et autres
Publié: (2025)
par: Liang, Hongyu, et autres
Publié: (2025)
Parameter-Efficient Fine-Tuning for HAR: Integrating LoRA and QLoRA into Transformer Models
par: Seregina, Irina, et autres
Publié: (2025)
par: Seregina, Irina, et autres
Publié: (2025)
Compress then Serve: Serving Thousands of LoRA Adapters with Little Overhead
par: Brüel-Gabrielsson, Rickard, et autres
Publié: (2024)
par: Brüel-Gabrielsson, Rickard, et autres
Publié: (2024)
Uncertainty quantification in fine-tuned LLMs using LoRA ensembles
par: Balabanov, Oleksandr, et autres
Publié: (2024)
par: Balabanov, Oleksandr, et autres
Publié: (2024)
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
par: Lee, Seungeon, et autres
Publié: (2025)
par: Lee, Seungeon, et autres
Publié: (2025)
A Sensitivity-Driven Expert Allocation Method in LoRA-MoE for Efficient Fine-Tuning
par: Xu, Junzhou, et autres
Publié: (2025)
par: Xu, Junzhou, et autres
Publié: (2025)
Efficient Multi-Adapter LLM Serving via Cross-Model KV-Cache Reuse with Activated LoRA
par: Li, Allison, et autres
Publié: (2025)
par: Li, Allison, et autres
Publié: (2025)
A Note on LoRA
par: Fomenko, Vlad, et autres
Publié: (2024)
par: Fomenko, Vlad, et autres
Publié: (2024)
Conditional LoRA Parameter Generation
par: Jin, Xiaolong, et autres
Publié: (2024)
par: Jin, Xiaolong, et autres
Publié: (2024)
Convergence Analysis of Aggregation-Broadcast in LoRA-enabled Distributed Fine-Tuning
par: Chen, Xin, et autres
Publié: (2025)
par: Chen, Xin, et autres
Publié: (2025)
$α$-LoRA: Effective Fine-Tuning via Base Model Rescaling
par: Firdoussi, Aymane El, et autres
Publié: (2025)
par: Firdoussi, Aymane El, et autres
Publié: (2025)
LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
par: Zhu, Zhanda, et autres
Publié: (2025)
par: Zhu, Zhanda, et autres
Publié: (2025)
FiLoRA: Focus-and-Ignore LoRA for Controllable Feature Reliance
par: Chung, Hyunsuk, et autres
Publié: (2026)
par: Chung, Hyunsuk, et autres
Publié: (2026)
Documents similaires
-
Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
par: Shen, Yixin
Publié: (2025) -
Activated LoRA: Fine-tuned LLMs for Intrinsics
par: Greenewald, Kristjan, et autres
Publié: (2025) -
S-LoRA: Serving Thousands of Concurrent LoRA Adapters
par: Sheng, Ying, et autres
Publié: (2023) -
SC-LoRA: Balancing Efficient Fine-tuning and Knowledge Preservation via Subspace-Constrained LoRA
par: Luo, Minrui, et autres
Publié: (2025) -
Learning Rate Matters: Vanilla LoRA May Suffice for LLM Fine-tuning
par: Lee, Yu-Ang, et autres
Publié: (2026)