Not How Many, But Which: Parameter Placement in Low-Rank Adaptation

Ähnliche Einträge

• LoRA-XS: Low-Rank Adaptation with Extremely Small Number of Parameters
  von: Bałazy, Klaudia, et al.
  Veröffentlicht: (2024)
• The Expressive Power of Low-Rank Adaptation
  von: Zeng, Yuchen, et al.
  Veröffentlicht: (2023)
• MoR: Mixture of Ranks for Low-Rank Adaptation Tuning
  von: Tang, Chuanyu, et al.
  Veröffentlicht: (2024)
• AFLoRA: Adaptive Freezing of Low Rank Adaptation in Parameter Efficient Fine-Tuning of Large Models
  von: Liu, Zeyu, et al.
  Veröffentlicht: (2024)
• LoRETTA: Low-Rank Economic Tensor-Train Adaptation for Ultra-Low-Parameter Fine-Tuning of Large Language Models
  von: Yang, Yifan, et al.
  Veröffentlicht: (2024)