Buchumschlag

The Quest for Winning Tickets in Low-Rank Adapters

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Damirchi, Hamed, Rodriguez-Opazo, Cristian, Abbasnejad, Ehsan, Zhang, Zhen, Shi, Javen
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Decomposing Task Vectors for Refined Model Editing
von: Damirchi, Hamed, et al.
Veröffentlicht: (2025)

Truth as a Trajectory: What Internal Representations Reveal About Large Language Model Reasoning
von: Damirchi, Hamed, et al.
Veröffentlicht: (2026)

Synergy and Diversity in CLIP: Enhancing Performance Through Adaptive Backbone Ensembling
von: Rodriguez-Opazo, Cristian, et al.
Veröffentlicht: (2024)

Learning Latent Dynamical Causal Processes for Single-Cell Perturbation Prediction
von: Jiang, Wenkang, et al.
Veröffentlicht: (2026)

Knowledge Composition using Task Vectors with Learned Anisotropic Scaling
von: Zhang, Frederic Z., et al.
Veröffentlicht: (2024)

What Makes a Representation Good for Single-Cell Perturbation Prediction?
von: Jiang, Wenkang, et al.
Veröffentlicht: (2026)

When Layers Play the Lottery, all Tickets Win at Initialization
von: Jordao, Artur, et al.
Veröffentlicht: (2023)

Rethinking State Disentanglement in Causal Reinforcement Learning
von: Cao, Haiyao, et al.
Veröffentlicht: (2024)

Weisfeiler and Leman Go Gambling: Why Expressive Lottery Tickets Win
von: Kummer, Lorenz, et al.
Veröffentlicht: (2025)

Fast Track to Winning Tickets: Repowering One-Shot Pruning for Graph Neural Networks
von: Yue, Yanwei, et al.
Veröffentlicht: (2024)

Random Masking Finds Winning Tickets for Parameter Efficient Fine-tuning
von: Xu, Jing, et al.
Veröffentlicht: (2024)

Uncovering a Winning Lottery Ticket with Continuously Relaxed Bernoulli Gates
von: Tsayag, Itamar, et al.
Veröffentlicht: (2026)

Unlocking the Global Synergies in Low-Rank Adapters
von: Zhang, Zixi, et al.
Veröffentlicht: (2024)

Asymmetry in Low-Rank Adapters of Foundation Models
von: Zhu, Jiacheng, et al.
Veröffentlicht: (2024)

Ensembles of Low-Rank Expert Adapters
von: Li, Yinghao, et al.
Veröffentlicht: (2025)

Towards Symmetric Low-Rank Adapters
von: Panoutsos, Tales, et al.
Veröffentlicht: (2025)

Pre-Training Identification of Graph Winning Tickets in Adaptive Spatial-Temporal Graph Neural Networks
von: Duan, Wenying, et al.
Veröffentlicht: (2024)

Training-Free Bayesianization for Low-Rank Adapters of Large Language Models
von: Shi, Haizhou, et al.
Veröffentlicht: (2024)

Winning Lottery Tickets in Neural Networks via a Quantum-Inspired Classical Algorithm
von: Isogai, Natsuto, et al.
Veröffentlicht: (2026)

BruSLeAttack: A Query-Efficient Score-Based Black-Box Sparse Adversarial Attack
von: Vo, Viet Quoc, et al.
Veröffentlicht: (2024)

Polynomially Over-Parameterized Convolutional Neural Networks Contain Structured Strong Winning Lottery Tickets
von: da Cunha, Arthur, et al.
Veröffentlicht: (2023)

Towards Higher Effective Rank in Parameter-efficient Fine-tuning using Khatri--Rao Product
von: Albert, Paul, et al.
Veröffentlicht: (2025)

Aggregating Low Rank Adapters in Federated Fine-tuning
von: Trautmann, Evelyn, et al.
Veröffentlicht: (2025)

Flora: Low-Rank Adapters Are Secretly Gradient Compressors
von: Hao, Yongchang, et al.
Veröffentlicht: (2024)

LoQT: Low-Rank Adapters for Quantized Pretraining
von: Loeschcke, Sebastian, et al.
Veröffentlicht: (2024)

Pareto Low-Rank Adapters: Efficient Multi-Task Learning with Preferences
von: Dimitriadis, Nikolaos, et al.
Veröffentlicht: (2024)

Winning the Lottery by Preserving Network Training Dynamics with Concrete Ticket Search
von: Arora, Tanay, et al.
Veröffentlicht: (2025)

Beyond Imitation: Recovering Dense Rewards from Demonstrations
von: Li, Jiangnan, et al.
Veröffentlicht: (2025)

Do Deep Neural Network Solutions Form a Star Domain?
von: Sonthalia, Ankit, et al.
Veröffentlicht: (2024)

Highway Graph to Accelerate Reinforcement Learning
von: Yin, Zidu, et al.
Veröffentlicht: (2024)

Do We Always Need the Simplicity Bias? Looking for Optimal Inductive Biases in the Wild
von: Teney, Damien, et al.
Veröffentlicht: (2025)

Mitigating Subject Dependency in EEG Decoding with Subject-Specific Low-Rank Adapters
von: Klein, Timon, et al.
Veröffentlicht: (2025)

AdapterTune: Zero-Initialized Low-Rank Adapters for Frozen Vision Transformers
von: Khazem, Salim
Veröffentlicht: (2026)

PoLAR: Polar-Decomposed Low-Rank Adapter Representation
von: Lion, Kai, et al.
Veröffentlicht: (2025)

Continual Low-Rank Adapters for LLM-based Generative Recommender Systems
von: Yoo, Hyunsik, et al.
Veröffentlicht: (2025)

Scalable Variational Bayesian Fine-Tuning of LLMs via Orthogonalized Low-Rank Adapters
von: Xiang, Haotian, et al.
Veröffentlicht: (2026)

Rapid Switching and Multi-Adapter Fusion via Sparse High Rank Adapters
von: Bhardwaj, Kartikeya, et al.
Veröffentlicht: (2024)

Multiple Choice Learning of Low-Rank Adapters for Language Modeling
von: Letzelter, Victor, et al.
Veröffentlicht: (2025)

LoRA-Pro: Are Low-Rank Adapters Properly Optimized?
von: Wang, Zhengbo, et al.
Veröffentlicht: (2024)

Bayesian Low-Rank LeArning (Bella): A Practical Approach to Bayesian Neural Networks
von: Doan, Bao Gia, et al.
Veröffentlicht: (2024)