IterIS: Iterative Inference-Solving Alignment for LoRA Merging
Fuente:
arXiv
Salvato in:
| Autori principali: | Chen, Hongxu, Li, Runshi, Zhu, Bowei, Wang, Zhen, Chen, Long |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Zero-Residual Concept Erasure via Progressive Alignment in Text-to-Image Model
di: Chen, Hongxu, et al.
Pubblicazione: (2025)
di: Chen, Hongxu, et al.
Pubblicazione: (2025)
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
di: Lee, Seungeon, et al.
Pubblicazione: (2025)
di: Lee, Seungeon, et al.
Pubblicazione: (2025)
SCALE-LoRA: Auditing Post-Retrieval LoRA Composition with Residual Merging and View Reliability
di: Zhou, Shuaipeng, et al.
Pubblicazione: (2026)
di: Zhou, Shuaipeng, et al.
Pubblicazione: (2026)
LoBAM: LoRA-Based Backdoor Attack on Model Merging
di: Yin, Ming, et al.
Pubblicazione: (2024)
di: Yin, Ming, et al.
Pubblicazione: (2024)
Merging LoRAs like Playing LEGO: Pushing the Modularity of LoRA to Extremes Through Rank-Wise Clustering
di: Zhao, Ziyu, et al.
Pubblicazione: (2024)
di: Zhao, Ziyu, et al.
Pubblicazione: (2024)
Semantic-guided LoRA Parameters Generation
di: Li, Miaoge, et al.
Pubblicazione: (2025)
di: Li, Miaoge, et al.
Pubblicazione: (2025)
LoRA-Mixer: Coordinate Modular LoRA Experts Through Serial Attention Routing
di: Li, Wenbing, et al.
Pubblicazione: (2025)
di: Li, Wenbing, et al.
Pubblicazione: (2025)
S-LoRA: Serving Thousands of Concurrent LoRA Adapters
di: Sheng, Ying, et al.
Pubblicazione: (2023)
di: Sheng, Ying, et al.
Pubblicazione: (2023)
A Note on LoRA
di: Fomenko, Vlad, et al.
Pubblicazione: (2024)
di: Fomenko, Vlad, et al.
Pubblicazione: (2024)
Unraveling LoRA Interference: Orthogonal Subspaces for Robust Model Merging
di: Zhang, Haobo, et al.
Pubblicazione: (2025)
di: Zhang, Haobo, et al.
Pubblicazione: (2025)
Rethinking LoRA for Data Heterogeneous Federated Learning: Subspace and State Alignment
di: Peng, Hongyi, et al.
Pubblicazione: (2026)
di: Peng, Hongyi, et al.
Pubblicazione: (2026)
Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
di: Shen, Yixin
Pubblicazione: (2025)
di: Shen, Yixin
Pubblicazione: (2025)
R-LoRA: Randomized Multi-Head LoRA for Efficient Multi-Task Learning
di: Liu, Jinda, et al.
Pubblicazione: (2025)
di: Liu, Jinda, et al.
Pubblicazione: (2025)
SC-LoRA: Balancing Efficient Fine-tuning and Knowledge Preservation via Subspace-Constrained LoRA
di: Luo, Minrui, et al.
Pubblicazione: (2025)
di: Luo, Minrui, et al.
Pubblicazione: (2025)
Conditional LoRA Parameter Generation
di: Jin, Xiaolong, et al.
Pubblicazione: (2024)
di: Jin, Xiaolong, et al.
Pubblicazione: (2024)
Robust Federated Finetuning of LLMs via Alternating Optimization of LoRA
di: Chen, Shuangyi, et al.
Pubblicazione: (2025)
di: Chen, Shuangyi, et al.
Pubblicazione: (2025)
FiLoRA: Focus-and-Ignore LoRA for Controllable Feature Reliance
di: Chung, Hyunsuk, et al.
Pubblicazione: (2026)
di: Chung, Hyunsuk, et al.
Pubblicazione: (2026)
LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
di: Yen, Jui-Nan, et al.
Pubblicazione: (2024)
di: Yen, Jui-Nan, et al.
Pubblicazione: (2024)
Beyond Factor Aggregation: Gauge-Aware Low-Rank Server Representations for Federated LoRA
di: Chen, Jinqian, et al.
Pubblicazione: (2026)
di: Chen, Jinqian, et al.
Pubblicazione: (2026)
ALTO: Adaptive LoRA Tuning and Orchestration for Heterogeneous LoRA Training Workloads
di: Zuo, Jingwei, et al.
Pubblicazione: (2026)
di: Zuo, Jingwei, et al.
Pubblicazione: (2026)
HiLoRA: Adaptive Hierarchical LoRA Routing for Training-Free Domain Generalization
di: Han, Ziyi, et al.
Pubblicazione: (2025)
di: Han, Ziyi, et al.
Pubblicazione: (2025)
Dual-LoRA and Quality-Enhanced Pseudo Replay for Multimodal Continual Food Learning
di: Wu, Xinlan, et al.
Pubblicazione: (2025)
di: Wu, Xinlan, et al.
Pubblicazione: (2025)
ST-LoRA: Low-rank Adaptation for Spatio-Temporal Forecasting
di: Ruan, Weilin, et al.
Pubblicazione: (2024)
di: Ruan, Weilin, et al.
Pubblicazione: (2024)
Improving the Serving Performance of Multi-LoRA Large Language Models via Efficient LoRA and KV Cache Management
di: Zhang, Hang, et al.
Pubblicazione: (2025)
di: Zhang, Hang, et al.
Pubblicazione: (2025)
Riemannian Optimization for LoRA on the Stiefel Manifold
di: Park, Juneyoung, et al.
Pubblicazione: (2025)
di: Park, Juneyoung, et al.
Pubblicazione: (2025)
Text-to-LoRA: Instant Transformer Adaption
di: Charakorn, Rujikorn, et al.
Pubblicazione: (2025)
di: Charakorn, Rujikorn, et al.
Pubblicazione: (2025)
Subliminal Learning is a LoRA Artifact
di: Nief, Todd, et al.
Pubblicazione: (2026)
di: Nief, Todd, et al.
Pubblicazione: (2026)
FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning
di: Bian, Jieming, et al.
Pubblicazione: (2026)
di: Bian, Jieming, et al.
Pubblicazione: (2026)
Convergence Analysis of Aggregation-Broadcast in LoRA-enabled Distributed Fine-Tuning
di: Chen, Xin, et al.
Pubblicazione: (2025)
di: Chen, Xin, et al.
Pubblicazione: (2025)
SDFLoRA: Selective Decoupled Federated LoRA for Privacy-preserving Fine-tuning with Heterogeneous Clients
di: Shen, Zhikang, et al.
Pubblicazione: (2026)
di: Shen, Zhikang, et al.
Pubblicazione: (2026)
Budgeted LoRA: Distillation as Structured Compute Allocation for Efficient Inference
di: Sabry, Mohammed, et al.
Pubblicazione: (2026)
di: Sabry, Mohammed, et al.
Pubblicazione: (2026)
KD-LoRA: A Hybrid Approach to Efficient Fine-Tuning with LoRA and Knowledge Distillation
di: Azimi, Rambod, et al.
Pubblicazione: (2024)
di: Azimi, Rambod, et al.
Pubblicazione: (2024)
Label-Free Cross-Task LoRA Merging with Null-Space Compression
di: Lee, Wonyoung, et al.
Pubblicazione: (2026)
di: Lee, Wonyoung, et al.
Pubblicazione: (2026)
Safe Pruning LoRA: Robust Distance-Guided Pruning for Safety Alignment in Adaptation of LLMs
di: Ao, Shuang, et al.
Pubblicazione: (2025)
di: Ao, Shuang, et al.
Pubblicazione: (2025)
DLP-LoRA: Efficient Task-Specific LoRA Fusion with a Dynamic, Lightweight Plugin for Large Language Models
di: Zhang, Yuxuan, et al.
Pubblicazione: (2024)
di: Zhang, Yuxuan, et al.
Pubblicazione: (2024)
LoRASuite: Efficient LoRA Adaptation Across Large Language Model Upgrades
di: Li, Yanan, et al.
Pubblicazione: (2025)
di: Li, Yanan, et al.
Pubblicazione: (2025)
LoRALib: A Standardized Benchmark for Evaluating LoRA-MoE Methods
di: Wang, Shaoheng, et al.
Pubblicazione: (2025)
di: Wang, Shaoheng, et al.
Pubblicazione: (2025)
Improving LoRA with Variational Learning
di: Cong, Bai, et al.
Pubblicazione: (2025)
di: Cong, Bai, et al.
Pubblicazione: (2025)
Activated LoRA: Fine-tuned LLMs for Intrinsics
di: Greenewald, Kristjan, et al.
Pubblicazione: (2025)
di: Greenewald, Kristjan, et al.
Pubblicazione: (2025)
Rethinking the Rank Threshold for LoRA Fine-Tuning
di: Park, Juneyoung
Pubblicazione: (2026)
di: Park, Juneyoung
Pubblicazione: (2026)
Documenti analoghi
-
Zero-Residual Concept Erasure via Progressive Alignment in Text-to-Image Model
di: Chen, Hongxu, et al.
Pubblicazione: (2025) -
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
di: Lee, Seungeon, et al.
Pubblicazione: (2025) -
SCALE-LoRA: Auditing Post-Retrieval LoRA Composition with Residual Merging and View Reliability
di: Zhou, Shuaipeng, et al.
Pubblicazione: (2026) -
LoBAM: LoRA-Based Backdoor Attack on Model Merging
di: Yin, Ming, et al.
Pubblicazione: (2024) -
Merging LoRAs like Playing LEGO: Pushing the Modularity of LoRA to Extremes Through Rank-Wise Clustering
di: Zhao, Ziyu, et al.
Pubblicazione: (2024)