LoRA-drop: Efficient LoRA Parameter Pruning based on Output Evaluation

Documenti analoghi

• Adaptive LoRA Merge with Parameter Pruning for Low-Resource Generation
  di: Miyano, Ryota, et al.
  Pubblicazione: (2025)
• AFA-LoRA: Enabling Non-Linear Adaptations in LoRA with Activation Function Annealing
  di: Li, Jiacheng, et al.
  Pubblicazione: (2025)
• LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
  di: Lee, Seungeon, et al.
  Pubblicazione: (2025)
• LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
  di: Yen, Jui-Nan, et al.
  Pubblicazione: (2024)
• KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
  di: Azimi, Rambod, et al.
  Pubblicazione: (2024)