Buchumschlag

Penrose Tiled Low-Rank Compression and Section-Wise Q&A Fine-Tuning: A General Framework for Domain-Specific Large Language Model Adaptation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kuo, Chuan-Wei, Chen, Siyu, Yan, Chenqi, Liu, Yu Yang Fredrik
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Enhanced Fine-Tuning of Lightweight Domain-Specific Q&A Model Based on Large Language Models
von: Zhang, Shenglin, et al.
Veröffentlicht: (2024)

Computational Limits of Low-Rank Adaptation (LoRA) Fine-Tuning for Transformer Models
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

NoRA: Nested Low-Rank Adaptation for Efficient Fine-Tuning Large Models
von: Lin, Cheng, et al.
Veröffentlicht: (2024)

Data Efficient Adaptation in Large Language Models via Continuous Low-Rank Fine-Tuning
von: Han, Xiao, et al.
Veröffentlicht: (2025)

FLoRA: Federated Fine-Tuning Large Language Models with Heterogeneous Low-Rank Adaptations
von: Wang, Ziyao, et al.
Veröffentlicht: (2024)

Memory-Efficient Fine-Tuning via Low-Rank Activation Compression
von: Shi, Jiang-Xin, et al.
Veröffentlicht: (2025)

TileQ: Efficient Low-Rank Quantization of Mixture-of-Experts with 2D Tiling
von: Gu, Hongyaoxing, et al.
Veröffentlicht: (2026)

Sparse Optimization for Transfer Learning: A L0-Regularized Framework for Multi-Source Domain Adaptation
von: Gong, Chenqi, et al.
Veröffentlicht: (2025)

Decentralized Low-Rank Fine-Tuning of Large Language Models
von: Ghiasvand, Sajjad, et al.
Veröffentlicht: (2025)

ALoRA: Allocating Low-Rank Adaptation for Fine-tuning Large Language Models
von: Liu, Zequan, et al.
Veröffentlicht: (2024)

QR-LoRA: QR-Based Low-Rank Adaptation for Efficient Fine-Tuning of Large Language Models
von: Liang, Jessica, et al.
Veröffentlicht: (2025)

AdaMoLE: Fine-Tuning Large Language Models with Adaptive Mixture of Low-Rank Adaptation Experts
von: Liu, Zefang, et al.
Veröffentlicht: (2024)

LoRETTA: Low-Rank Economic Tensor-Train Adaptation for Ultra-Low-Parameter Fine-Tuning of Large Language Models
von: Yang, Yifan, et al.
Veröffentlicht: (2024)

Enhancing Q&A with Domain-Specific Fine-Tuning and Iterative Reasoning: A Comparative Study
von: Nguyen, Zooey, et al.
Veröffentlicht: (2024)

RefLoRA: Refactored Low-Rank Adaptation for Efficient Fine-Tuning of Large Models
von: Zhang, Yilang, et al.
Veröffentlicht: (2025)

Ravan: Multi-Head Low-Rank Adaptation for Federated Fine-Tuning
von: Raje, Arian, et al.
Veröffentlicht: (2025)

Domain-Specific Fine-Tuning of Large Language Models for Interactive Robot Programming
von: Alt, Benjamin, et al.
Veröffentlicht: (2023)

Automating Research Synthesis with Domain-Specific Large Language Model Fine-Tuning
von: Susnjak, Teo, et al.
Veröffentlicht: (2024)

Hybrid-LoRA: Bridging Full Fine-Tuning and Low-Rank Adaptation for Post-Training
von: Zhang, Chengqian, et al.
Veröffentlicht: (2026)

Cross-Modal Fine-Tuning of 3D Convolutional Foundation Models for ADHD Classification with Low-Rank Adaptation
von: Kao, Jyun-Ping, et al.
Veröffentlicht: (2025)

Polynomial Expansion Rank Adaptation: Enhancing Low-Rank Fine-Tuning with High-Order Interactions
von: Zhang, Wenhao, et al.
Veröffentlicht: (2026)

Phased Instruction Fine-Tuning for Large Language Models
von: Pang, Wei, et al.
Veröffentlicht: (2024)

Geometrical Penrose Tilings are characterized by their 1-atlas
von: Fernique, Thomas, et al.
Veröffentlicht: (2022)

Directional Expansiveness for Rd-Actions and for Penrose Tilings
von: Jang, Hyeeun, et al.
Veröffentlicht: (2025)

AFLoRA: Adaptive Freezing of Low Rank Adaptation in Parameter Efficient Fine-Tuning of Large Models
von: Liu, Zeyu, et al.
Veröffentlicht: (2024)

Fine Tuning without Catastrophic Forgetting via Selective Low Rank Adaptation
von: Bafghi, Reza Akbarian, et al.
Veröffentlicht: (2025)

Optimizing Fine-Tuning through Advanced Initialization Strategies for Low-Rank Adaptation
von: Xue, Yongfu
Veröffentlicht: (2025)

LoFT: Low-Rank Adaptation That Behaves Like Full Fine-Tuning
von: Tastan, Nurbek, et al.
Veröffentlicht: (2025)

Low-Rank Rescaled Vision Transformer Fine-Tuning: A Residual Design Approach
von: Dong, Wei, et al.
Veröffentlicht: (2024)

Elastic Mixture of Rank-Wise Experts for Knowledge Reuse in Federated Fine-Tuning
von: Wu, Yebo, et al.
Veröffentlicht: (2025)

MiLoRA: Efficient Mixture of Low-Rank Adaptation for Large Language Models Fine-tuning
von: Zhang, Jingfan, et al.
Veröffentlicht: (2024)

Fine-Tuned Language Models for Domain-Specific Summarization and Tagging
von: Wang, Jun, et al.
Veröffentlicht: (2025)

Transfer Learning in Physics-Informed Neural Networks: Full Fine-Tuning, Lightweight Fine-Tuning, and Low-Rank Adaptation
von: Wang, Yizheng, et al.
Veröffentlicht: (2025)

Transfer Learning in Physics‐Informed Neurals Networks: Full Fine‐Tuning, Lightweight Fine‐Tuning, and Low‐Rank Adaptation
von: Yizheng Wang, et al.
Veröffentlicht: (2025)

Sparsity-Aware Low-Rank Representation for Efficient Fine-Tuning of Large Language Models
von: Zhang, Longteng, et al.
Veröffentlicht: (2026)

ScaLoRA: Optimally Scaled Low-Rank Adaptation for Efficient High-Rank Fine-Tuning
von: Zhang, Yilang, et al.
Veröffentlicht: (2025)

Flexora: Flexible Low Rank Adaptation for Large Language Models
von: Wei, Chenxing, et al.
Veröffentlicht: (2024)

TLoRA+: A Low-Rank Parameter-Efficient Fine-Tuning Method for Large Language Models
von: Cao, Yarui, et al.
Veröffentlicht: (2026)

The Penrose Tiling is a Quantum Error-Correcting Code
von: Li, Zhi, et al.
Veröffentlicht: (2023)

DropLoRA: Sparse Low-Rank Adaptation for Parameter-Efficient Fine-Tuning
von: Zhang, Haojie
Veröffentlicht: (2025)