LoRA Fine-Tuning Without GPUs: A CPU-Efficient Meta-Generation Framework for LLMs
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Arabpour, Reza, Borde, Haitz Sáez de Ocáriz, Kratsios, Anastasis |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Sharp Generalization Bounds for Foundation Models with Asymmetric Randomized Low-Rank Adapters
par: Kratsios, Anastasis, et autres
Publié: (2025)
par: Kratsios, Anastasis, et autres
Publié: (2025)
Neural Snowflakes: Universal Latent Graph Inference via Trainable Latent Geometries
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2023)
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2023)
Fine-Tuning Next-Scale Visual Autoregressive Models with Group Relative Policy Optimization
par: Gallici, Matteo, et autres
Publié: (2025)
par: Gallici, Matteo, et autres
Publié: (2025)
HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
par: Tian, Chunlin, et autres
Publié: (2024)
par: Tian, Chunlin, et autres
Publié: (2024)
Mathematical Foundations of Geometric Deep Learning
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2025)
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2025)
DR-LoRA: Dynamic Rank LoRA for Fine-Tuning Mixture-of-Experts Models
par: Deng, Guanzhi, et autres
Publié: (2026)
par: Deng, Guanzhi, et autres
Publié: (2026)
KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
par: Azimi, Rambod, et autres
Publié: (2024)
par: Azimi, Rambod, et autres
Publié: (2024)
LoRA-Squeeze: Simple and Effective Post-Tuning and In-Tuning Compression of LoRA Modules
par: Vulić, Ivan, et autres
Publié: (2026)
par: Vulić, Ivan, et autres
Publié: (2026)
The Stepwise Informativeness Assumption: Why are Entropy Dynamics and Reasoning Correlated in LLMs?
par: Català, Mar Gonzàlez I, et autres
Publié: (2026)
par: Català, Mar Gonzàlez I, et autres
Publié: (2026)
HypeLoRA: Hyper-Network-Generated LoRA Adapters for Calibrated Language Model Fine-Tuning
par: Trojan, Bartosz, et autres
Publié: (2026)
par: Trojan, Bartosz, et autres
Publié: (2026)
RadLite: Multi-Task LoRA Fine-Tuning of Small Language Models for CPU-Deployable Radiology AI
par: Gupta, Pankaj, et autres
Publié: (2026)
par: Gupta, Pankaj, et autres
Publié: (2026)
Approximation Rates and VC-Dimension Bounds for (P)ReLU MLP Mixture of Experts
par: Kratsios, Anastasis, et autres
Publié: (2024)
par: Kratsios, Anastasis, et autres
Publié: (2024)
Soro: A Lightweight Foundation Model and Chatbot for Tajik
par: Liashkov, Stanislav, et autres
Publié: (2026)
par: Liashkov, Stanislav, et autres
Publié: (2026)
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts
par: Li, Dengchun, et autres
Publié: (2024)
par: Li, Dengchun, et autres
Publié: (2024)
In-Context Meta LoRA Generation
par: Shao, Yihua, et autres
Publié: (2025)
par: Shao, Yihua, et autres
Publié: (2025)
Localized LoRA: A Structured Low-Rank Approximation for Efficient Fine-Tuning
par: Barazandeh, Babak, et autres
Publié: (2025)
par: Barazandeh, Babak, et autres
Publié: (2025)
mLoRA: Fine-Tuning LoRA Adapters via Highly-Efficient Pipeline Parallelism in Multiple GPUs
par: Ye, Zhengmao, et autres
Publié: (2023)
par: Ye, Zhengmao, et autres
Publié: (2023)
LoRAFusion: Efficient LoRA Fine-Tuning for LLMs
par: Zhu, Zhanda, et autres
Publié: (2025)
par: Zhu, Zhanda, et autres
Publié: (2025)
Quantifying and Mitigating Selection Bias in LLMs: A Transferable LoRA Fine-Tuning and Efficient Majority Voting Approach
par: Guda, Blessed, et autres
Publié: (2025)
par: Guda, Blessed, et autres
Publié: (2025)
LoRA-Gen: Specializing Large Language Model via Online LoRA Generation
par: Xiao, Yicheng, et autres
Publié: (2025)
par: Xiao, Yicheng, et autres
Publié: (2025)
k-Maximum Inner Product Attention for Graph Transformers and the Expressive Power of GraphGPS
par: De Schouwer, Jonas, et autres
Publié: (2026)
par: De Schouwer, Jonas, et autres
Publié: (2026)
STAR: Constraint LoRA with Dynamic Active Learning for Data-Efficient Fine-Tuning of Large Language Models
par: Zhang, Linhai, et autres
Publié: (2024)
par: Zhang, Linhai, et autres
Publié: (2024)
LoRA-Leak: Membership Inference Attacks Against LoRA Fine-tuned Language Models
par: Ran, Delong, et autres
Publié: (2025)
par: Ran, Delong, et autres
Publié: (2025)
NaRA: Noise-Aware LoRA for Parameter-Efficient Fine-Tuning of Diffusion LLMs
par: Wang, Shuaidi, et autres
Publié: (2026)
par: Wang, Shuaidi, et autres
Publié: (2026)
Structured Captions Improve Prompt Adherence in Text-to-Image Models (Re-LAION-Caption 19M)
par: Merchant, Nicholas, et autres
Publié: (2025)
par: Merchant, Nicholas, et autres
Publié: (2025)
MiCA Learns More Knowledge Than LoRA and Full Fine-Tuning
par: Rüdiger, Sten, et autres
Publié: (2026)
par: Rüdiger, Sten, et autres
Publié: (2026)
Classification Fields: Arbitrarily Fine Recursive Hierarchical Clustering From Few Examples
par: Li, Yicen, et autres
Publié: (2026)
par: Li, Yicen, et autres
Publié: (2026)
Beyond LoRA vs. Full Fine-Tuning: Gradient-Guided Optimizer Routing for LLM Adaptation
par: Tang, Haozhan, et autres
Publié: (2026)
par: Tang, Haozhan, et autres
Publié: (2026)
Metric Learning for Clifford Group Equivariant Neural Networks
par: Ali, Riccardo, et autres
Publié: (2024)
par: Ali, Riccardo, et autres
Publié: (2024)
A Lightweight Framework for Trigger-Guided LoRA-Based Self-Adaptation in LLMs
par: Wei, Jiacheng, et autres
Publié: (2025)
par: Wei, Jiacheng, et autres
Publié: (2025)
Neural Spacetimes for DAG Representation Learning
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2024)
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2024)
Scalable Message Passing Neural Networks: No Need for Attention in Large Graph Representation Learning
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2024)
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2024)
Keep It Light! Simplifying Image Clustering Via Text-Free Adapters
par: Li, Yicen, et autres
Publié: (2025)
par: Li, Yicen, et autres
Publié: (2025)
NAS-LoRA: Empowering Parameter-Efficient Fine-Tuning for Visual Foundation Models with Searchable Adaptation
par: Chen, Renqi, et autres
Publié: (2025)
par: Chen, Renqi, et autres
Publié: (2025)
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
par: Lee, Seungeon, et autres
Publié: (2025)
par: Lee, Seungeon, et autres
Publié: (2025)
DynMoLE: Boosting Mixture of LoRA Experts Fine-Tuning with a Hybrid Routing Mechanism
par: Li, Dengchun, et autres
Publié: (2025)
par: Li, Dengchun, et autres
Publié: (2025)
Enhancing Aviation Communication Transcription: Fine-Tuning Distil-Whisper with LoRA
par: Mirzaei, Shokoufeh, et autres
Publié: (2025)
par: Mirzaei, Shokoufeh, et autres
Publié: (2025)
Profiling LoRA/QLoRA Fine-Tuning Efficiency on Consumer GPUs: An RTX 4060 Case Study
par: Avinash, MSR
Publié: (2025)
par: Avinash, MSR
Publié: (2025)
ALTER: Asymmetric LoRA for Token-Entropy-Guided Unlearning of LLMs
par: Chen, Xunlei, et autres
Publié: (2026)
par: Chen, Xunlei, et autres
Publié: (2026)
LoRA Meets Dropout under a Unified Framework
par: Wang, Sheng, et autres
Publié: (2024)
par: Wang, Sheng, et autres
Publié: (2024)
Documents similaires
-
Sharp Generalization Bounds for Foundation Models with Asymmetric Randomized Low-Rank Adapters
par: Kratsios, Anastasis, et autres
Publié: (2025) -
Neural Snowflakes: Universal Latent Graph Inference via Trainable Latent Geometries
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2023) -
Fine-Tuning Next-Scale Visual Autoregressive Models with Group Relative Policy Optimization
par: Gallici, Matteo, et autres
Publié: (2025) -
HydraLoRA: An Asymmetric LoRA Architecture for Efficient Fine-Tuning
par: Tian, Chunlin, et autres
Publié: (2024) -
Mathematical Foundations of Geometric Deep Learning
par: Borde, Haitz Sáez de Ocáriz, et autres
Publié: (2025)