Copertina

LoRA-Squeeze: Simple and Effective Post-Tuning and In-Tuning Compression of LoRA Modules

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Vulić, Ivan, Grycner, Adam, de Laroussilhe, Quentin, Pfeiffer, Jonas
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Computation and Language Artificial Intelligence
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models
di: Deng, Guanzhi, et al.
Pubblicazione: (2026)

HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
di: Tian, Chunlin, et al.
Pubblicazione: (2024)

KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
di: Azimi, Rambod, et al.
Pubblicazione: (2024)

LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
di: Lee, Seungeon, et al.
Pubblicazione: (2025)

LoRA-Gen: Specializing Large Language Model via Online LoRA Generation
di: Xiao, Yicheng, et al.
Pubblicazione: (2025)

HypeLoRA: Hyper-Network-Generated LoRA Adapters for Calibrated Language Model Fine-Tuning
di: Trojan, Bartosz, et al.
Pubblicazione: (2026)

MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts
di: Li, Dengchun, et al.
Pubblicazione: (2024)

LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
di: Yen, Jui-Nan, et al.
Pubblicazione: (2024)

A Note on LoRA
di: Fomenko, Vlad, et al.
Pubblicazione: (2024)

ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
di: Zuo, Jingwei, et al.
Pubblicazione: (2026)

LoRA-Leak: Membership Inference Attacks Against LoRA Fine-tuned Language Models
di: Ran, Delong, et al.
Pubblicazione: (2025)

Improving LoRA with Variational Learning
di: Cong, Bai, et al.
Pubblicazione: (2025)

LoRA in LoRA: Towards Parameter-Efficient Architecture Expansion for Continual Visual Instruction Tuning
di: Che, Chang, et al.
Pubblicazione: (2025)

In-Context Meta LoRA Generation
di: Shao, Yihua, et al.
Pubblicazione: (2025)

Evolutionary Negative Module Pruning for Better LoRA Merging
di: Cao, Anda, et al.
Pubblicazione: (2026)

MiCA Learns More Knowledge Than LoRA and Full Fine-Tuning
di: Rüdiger, Sten, et al.
Pubblicazione: (2026)

Localized LoRA: A Structured Low-Rank Approximation for Efficient Fine-Tuning
di: Barazandeh, Babak, et al.
Pubblicazione: (2025)

Doc-to-LoRA: Learning to Instantly Internalize Contexts
di: Charakorn, Rujikorn, et al.
Pubblicazione: (2026)

LoraMap: Harnessing the Power of LoRA Connections
di: Park, Hyeryun, et al.
Pubblicazione: (2024)

Higher Layers Need More LoRA Experts
di: Gao, Chongyang, et al.
Pubblicazione: (2024)

The Impact of Initialization on LoRA Finetuning Dynamics
di: Hayou, Soufiane, et al.
Pubblicazione: (2024)

LoRA Learns Less and Forgets Less
di: Biderman, Dan, et al.
Pubblicazione: (2024)

LoRA Is Slower Than You Think
di: Ko, Seokmin
Pubblicazione: (2025)

DLP-LoRA: Efficient Task-Specific LoRA Fusion with a Dynamic, Lightweight Plugin for Large Language Models
di: Zhang, Yuxuan, et al.
Pubblicazione: (2024)

S-LoRA: Serving Thousands of Concurrent LoRA Adapters
di: Sheng, Ying, et al.
Pubblicazione: (2023)

Enhancing Aviation Communication Transcription: Fine-Tuning Distil-Whisper with LoRA
di: Mirzaei, Shokoufeh, et al.
Pubblicazione: (2025)

LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
di: Zhu, Zhanda, et al.
Pubblicazione: (2025)

Beyond LoRA vs. Full Fine-Tuning: Gradient-Guided Optimizer Routing for LLM Adaptation
di: Tang, Haozhan, et al.
Pubblicazione: (2026)

SAMoRA: Semantic-Aware Mixture of LoRA Experts for Task-Adaptive Learning
di: Shi, Boyan, et al.
Pubblicazione: (2026)

Hallucinations and Truth: A Comprehensive Accuracy Evaluation of RAG, LoRA and DoRA
di: Baqar, Mohammad, et al.
Pubblicazione: (2025)

LoRA Meets Dropout under a Unified Framework
di: Wang, Sheng, et al.
Pubblicazione: (2024)

LoRA Fine-Tuning Without GPUs: A CPU-Efficient Meta-Generation Framework for LLMs
di: Arabpour, Reza, et al.
Pubblicazione: (2025)

FinLoRA: Benchmarking LoRA Methods for Fine-Tuning LLMs on Financial Datasets
di: Wang, Dannong, et al.
Pubblicazione: (2025)

A Survey on LoRA of Large Language Models
di: Mao, Yuren, et al.
Pubblicazione: (2024)

Tina: Tiny Reasoning Models via LoRA
di: Wang, Shangshang, et al.
Pubblicazione: (2025)

DynMoLE: Boosting Mixture of LoRA Experts Fine-Tuning with a Hybrid Routing Mechanism
di: Li, Dengchun, et al.
Pubblicazione: (2025)

STAR: Constraint LoRA with Dynamic Active Learning for Data-Efficient Fine-Tuning of Large Language Models
di: Zhang, Linhai, et al.
Pubblicazione: (2024)

Compress then Serve: Serving Thousands of LoRA Adapters with Little Overhead
di: Brüel-Gabrielsson, Rickard, et al.
Pubblicazione: (2024)

Multi-LoRA Composition for Image Generation
di: Zhong, Ming, et al.
Pubblicazione: (2024)

Instruction-Tuned, but Not More Verifiable Instruction-Following: A Cross-Task Diagnosis for LoRA Adapters
di: Zou, Junyi
Pubblicazione: (2026)