GPT Meets Graphs and KAN Splines: Testing Novel Frameworks on Multitask Fine-Tuned GPT-2 with LoRA
Fuente:
arXiv
Salvato in:
| Autori principali: | Bo, Gabriel, Bernardino, Marc, Gu, Justin |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
LoRA Land: 310 Fine-tuned LLMs that Rival GPT-4, A Technical Report
di: Zhao, Justin, et al.
Pubblicazione: (2024)
di: Zhao, Justin, et al.
Pubblicazione: (2024)
LoRA-PAR: A Flexible Dual-System LoRA Partitioning Approach to Efficient LLM Fine-Tuning
di: Huang, Yining, et al.
Pubblicazione: (2025)
di: Huang, Yining, et al.
Pubblicazione: (2025)
KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
di: Azimi, Rambod, et al.
Pubblicazione: (2024)
di: Azimi, Rambod, et al.
Pubblicazione: (2024)
Saudi-Dialect-ALLaM: LoRA Fine-Tuning for Dialectal Arabic Generation
di: Barmandah, Hassan
Pubblicazione: (2025)
di: Barmandah, Hassan
Pubblicazione: (2025)
LUNE: Efficient LLM Unlearning via LoRA Fine-Tuning with Negative Examples
di: Liu, Yezi, et al.
Pubblicazione: (2025)
di: Liu, Yezi, et al.
Pubblicazione: (2025)
LowRA: Accurate and Efficient LoRA Fine-Tuning of LLMs under 2 Bits
di: Zhou, Zikai, et al.
Pubblicazione: (2025)
di: Zhou, Zikai, et al.
Pubblicazione: (2025)
Aletheia: Gradient-Guided Layer Selection for Efficient LoRA Fine-Tuning Across Architectures
di: Saket, Abdulmalek
Pubblicazione: (2026)
di: Saket, Abdulmalek
Pubblicazione: (2026)
MoE-Sieve: Routing-Guided LoRA for Efficient MoE Fine-Tuning
di: Manzoni, Andrea
Pubblicazione: (2026)
di: Manzoni, Andrea
Pubblicazione: (2026)
LoRA Fine-Tuning Without GPUs: A CPU-Efficient Meta-Generation Framework for LLMs
di: Arabpour, Reza, et al.
Pubblicazione: (2025)
di: Arabpour, Reza, et al.
Pubblicazione: (2025)
LoRA vs Full Fine-tuning: An Illusion of Equivalence
di: Shuttleworth, Reece, et al.
Pubblicazione: (2024)
di: Shuttleworth, Reece, et al.
Pubblicazione: (2024)
LoRA-drop: Efficient LoRA Parameter Pruning based on Output Evaluation
di: Zhou, Hongyun, et al.
Pubblicazione: (2024)
di: Zhou, Hongyun, et al.
Pubblicazione: (2024)
Dynamic Adaptation of LoRA Fine-Tuning for Efficient and Task-Specific Optimization of Large Language Models
di: Liao, Xiaoxuan, et al.
Pubblicazione: (2025)
di: Liao, Xiaoxuan, et al.
Pubblicazione: (2025)
Localized LoRA: A Structured Low-Rank Approximation for Efficient Fine-Tuning
di: Barazandeh, Babak, et al.
Pubblicazione: (2025)
di: Barazandeh, Babak, et al.
Pubblicazione: (2025)
Leaner Training, Lower Leakage: Revisiting Memorization in LLM Fine-Tuning with LoRA
di: Wang, Fei, et al.
Pubblicazione: (2025)
di: Wang, Fei, et al.
Pubblicazione: (2025)
MiCA Learns More Knowledge Than LoRA and Full Fine-Tuning
di: Rüdiger, Sten, et al.
Pubblicazione: (2026)
di: Rüdiger, Sten, et al.
Pubblicazione: (2026)
AFA-LoRA: Enabling Non-Linear Adaptations in LoRA with Activation Function Annealing
di: Li, Jiacheng, et al.
Pubblicazione: (2025)
di: Li, Jiacheng, et al.
Pubblicazione: (2025)
JORA: JAX Tensor-Parallel LoRA Library for Retrieval Augmented Fine-Tuning
di: Tahir, Anique, et al.
Pubblicazione: (2024)
di: Tahir, Anique, et al.
Pubblicazione: (2024)
LoRA-SP: Streamlined Partial Parameter Adaptation for Resource-Efficient Fine-Tuning of Large Language Models
di: Wu, Yichao, et al.
Pubblicazione: (2024)
di: Wu, Yichao, et al.
Pubblicazione: (2024)
Optimizing Large Language Models with an Enhanced LoRA Fine-Tuning Algorithm for Efficiency and Robustness in NLP Tasks
di: Hu, Jiacheng, et al.
Pubblicazione: (2024)
di: Hu, Jiacheng, et al.
Pubblicazione: (2024)
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
di: Lee, Seungeon, et al.
Pubblicazione: (2025)
di: Lee, Seungeon, et al.
Pubblicazione: (2025)
Mixture of LoRA Experts
di: Wu, Xun, et al.
Pubblicazione: (2024)
di: Wu, Xun, et al.
Pubblicazione: (2024)
LoRA Soups: Merging LoRAs for Practical Skill Composition Tasks
di: Prabhakar, Akshara, et al.
Pubblicazione: (2024)
di: Prabhakar, Akshara, et al.
Pubblicazione: (2024)
Enhancing Aviation Communication Transcription: Fine-Tuning Distil-Whisper with LoRA
di: Mirzaei, Shokoufeh, et al.
Pubblicazione: (2025)
di: Mirzaei, Shokoufeh, et al.
Pubblicazione: (2025)
LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
di: Yen, Jui-Nan, et al.
Pubblicazione: (2024)
di: Yen, Jui-Nan, et al.
Pubblicazione: (2024)
FedALT: Federated Fine-Tuning through Adaptive Local Training with Rest-of-World LoRA
di: Bian, Jieming, et al.
Pubblicazione: (2025)
di: Bian, Jieming, et al.
Pubblicazione: (2025)
Sci-LoRA: Mixture of Scientific LoRAs for Cross-Domain Lay Paraphrasing
di: Cheng, Ming, et al.
Pubblicazione: (2025)
di: Cheng, Ming, et al.
Pubblicazione: (2025)
LoRA-FAIR: Federated LoRA Fine-Tuning with Aggregation and Initialization Refinement
di: Bian, Jieming, et al.
Pubblicazione: (2024)
di: Bian, Jieming, et al.
Pubblicazione: (2024)
A Note on LoRA
di: Fomenko, Vlad, et al.
Pubblicazione: (2024)
di: Fomenko, Vlad, et al.
Pubblicazione: (2024)
Chain of LoRA: Efficient Fine-tuning of Language Models via Residual Learning
di: Xia, Wenhan, et al.
Pubblicazione: (2024)
di: Xia, Wenhan, et al.
Pubblicazione: (2024)
AirLLM: Diffusion Policy-based Adaptive LoRA for Remote Fine-Tuning of LLM over the Air
di: Yang, Shiyi, et al.
Pubblicazione: (2025)
di: Yang, Shiyi, et al.
Pubblicazione: (2025)
In-Context Learning and Fine-Tuning GPT for Argument Mining
di: Cabessa, Jérémie, et al.
Pubblicazione: (2024)
di: Cabessa, Jérémie, et al.
Pubblicazione: (2024)
Challenges in Adapting Multilingual LLMs to Low-Resource Languages using LoRA PEFT Tuning
di: Khade, Omkar, et al.
Pubblicazione: (2024)
di: Khade, Omkar, et al.
Pubblicazione: (2024)
Improving LoRA with Variational Learning
di: Cong, Bai, et al.
Pubblicazione: (2025)
di: Cong, Bai, et al.
Pubblicazione: (2025)
Annotation Entropy Predicts Per-Example Learning Dynamics in LoRA Fine-Tuning
di: Steele, Brady
Pubblicazione: (2026)
di: Steele, Brady
Pubblicazione: (2026)
HyperAdaLoRA: Accelerating LoRA Rank Allocation During Training via Hypernetworks without Sacrificing Performance
di: Zhang, Hao, et al.
Pubblicazione: (2025)
di: Zhang, Hao, et al.
Pubblicazione: (2025)
RadLite: Multi-Task LoRA Fine-Tuning of Small Language Models for CPU-Deployable Radiology AI
di: Gupta, Pankaj, et al.
Pubblicazione: (2026)
di: Gupta, Pankaj, et al.
Pubblicazione: (2026)
Text to Trust: Evaluating Fine-Tuning and LoRA Trade-offs in Language Models for Unfair Terms of Service Detection
di: Juttu, Noshitha Padma Pratyusha, et al.
Pubblicazione: (2025)
di: Juttu, Noshitha Padma Pratyusha, et al.
Pubblicazione: (2025)
QuAILoRA: Quantization-Aware Initialization for LoRA
di: Lawton, Neal, et al.
Pubblicazione: (2024)
di: Lawton, Neal, et al.
Pubblicazione: (2024)
DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models
di: Deng, Guanzhi, et al.
Pubblicazione: (2026)
di: Deng, Guanzhi, et al.
Pubblicazione: (2026)
LoRA-GA: Low-Rank Adaptation with Gradient Approximation
di: Wang, Shaowen, et al.
Pubblicazione: (2024)
di: Wang, Shaowen, et al.
Pubblicazione: (2024)
Documenti analoghi
-
LoRA Land: 310 Fine-tuned LLMs that Rival GPT-4, A Technical Report
di: Zhao, Justin, et al.
Pubblicazione: (2024) -
LoRA-PAR: A Flexible Dual-System LoRA Partitioning Approach to Efficient LLM Fine-Tuning
di: Huang, Yining, et al.
Pubblicazione: (2025) -
KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
di: Azimi, Rambod, et al.
Pubblicazione: (2024) -
Saudi-Dialect-ALLaM: LoRA Fine-Tuning for Dialectal Arabic Generation
di: Barmandah, Hassan
Pubblicazione: (2025) -
LUNE: Efficient LLM Unlearning via LoRA Fine-Tuning with Negative Examples
di: Liu, Yezi, et al.
Pubblicazione: (2025)