Buchumschlag

BLoB: Bayesian Low-Rank Adaptation by Backpropagation for Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wang, Yibin, Shi, Haizhou, Han, Ligong, Metaxas, Dimitris, Wang, Hao
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Training-Free Bayesianization for Low-Rank Adapters of Large Language Models
von: Shi, Haizhou, et al.
Veröffentlicht: (2024)

TokUR: Token-Level Uncertainty Estimation for Large Language Model Reasoning
von: Zhang, Tunyu, et al.
Veröffentlicht: (2025)

Continual Learning of Large Language Models: A Comprehensive Survey
von: Shi, Haizhou, et al.
Veröffentlicht: (2024)

Implicit In-context Learning
von: Li, Zhuowei, et al.
Veröffentlicht: (2024)

Scalable Bayesian Low-Rank Adaptation of Large Language Models via Stochastic Variational Subspace Inference
von: Samplawski, Colin, et al.
Veröffentlicht: (2025)

Dist2ill: Distributional Distillation for One-Pass Uncertainty Estimation in Large Language Models
von: Zhao, Yicong, et al.
Veröffentlicht: (2025)

CoRA: Optimizing Low-Rank Adaptation with Common Subspace of Large Language Models
von: Xiao, Xiaojun, et al.
Veröffentlicht: (2024)

iLoRA: Bayesian Low-Rank Adaptation with Latent Interaction Graphs for Microbiome Diagnosis
von: Song, Yang, et al.
Veröffentlicht: (2026)

LoRA+: Efficient Low Rank Adaptation of Large Models
von: Hayou, Soufiane, et al.
Veröffentlicht: (2024)

Batched Low-Rank Adaptation of Foundation Models
von: Wen, Yeming, et al.
Veröffentlicht: (2023)

LoRETTA: Low-Rank Economic Tensor-Train Adaptation for Ultra-Low-Parameter Fine-Tuning of Large Language Models
von: Yang, Yifan, et al.
Veröffentlicht: (2024)

SSR: Socratic Self-Refine for Large Language Model Reasoning
von: Shi, Haizhou, et al.
Veröffentlicht: (2025)

SwitchLoRA: Switched Low-Rank Adaptation Can Learn Full-Rank Information
von: Zhou, Kaiye, et al.
Veröffentlicht: (2024)

LoLCATs: On Low-Rank Linearizing of Large Language Models
von: Zhang, Michael, et al.
Veröffentlicht: (2024)

MTL-LoRA: Low-Rank Adaptation for Multi-Task Learning
von: Yang, Yaming, et al.
Veröffentlicht: (2024)

The Expressive Power of Low-Rank Adaptation
von: Zeng, Yuchen, et al.
Veröffentlicht: (2023)

MoR: Mixture of Ranks for Low-Rank Adaptation Tuning
von: Tang, Chuanyu, et al.
Veröffentlicht: (2024)

SBoRA: Low-Rank Adaptation with Regional Weight Updates
von: Po, Lai-Man, et al.
Veröffentlicht: (2024)

AFLoRA: Adaptive Freezing of Low Rank Adaptation in Parameter Efficient Fine-Tuning of Large Models
von: Liu, Zeyu, et al.
Veröffentlicht: (2024)

Variational Low-Rank Adaptation Using IVON
von: Cong, Bai, et al.
Veröffentlicht: (2024)

Recover-LoRA: Data-Free Accuracy Recovery of Degraded Language Models via Low-Rank Adaptation
von: Das, Devleena, et al.
Veröffentlicht: (2025)

LoRMA: Low-Rank Multiplicative Adaptation for LLMs
von: Bihany, Harsh, et al.
Veröffentlicht: (2025)

LoTR: Low Tensor Rank Weight Adaptation
von: Bershatsky, Daniel, et al.
Veröffentlicht: (2024)

Low-Rank Adaptation for Multilingual Summarization: An Empirical Study
von: Whitehouse, Chenxi, et al.
Veröffentlicht: (2023)

SQuat: Subspace-orthogonal KV Cache Quantization
von: Wang, Hao, et al.
Veröffentlicht: (2025)

The Hidden Life of Tokens: Reducing Hallucination of Large Vision-Language Models via Visual Information Steering
von: Li, Zhuowei, et al.
Veröffentlicht: (2025)

Few-Step Diffusion Language Models via Trajectory Self-Distillation
von: Zhang, Tunyu, et al.
Veröffentlicht: (2026)

Interpretable Safety Alignment via SAE-Constructed Low-Rank Subspace Adaptation
von: Wang, Dianyun, et al.
Veröffentlicht: (2025)

BaLoRA: Bayesian Low-Rank Adaptation of Large Scale Models
von: Coscia, Dario, et al.
Veröffentlicht: (2026)

Memorize and Rank: Elevating Large Language Models for Clinical Diagnosis Prediction
von: Ma, Mingyu Derek, et al.
Veröffentlicht: (2025)

GoRA: Gradient-driven Adaptive Low Rank Adaptation
von: He, Haonan, et al.
Veröffentlicht: (2025)

Not How Many, But Which: Parameter Placement in Low-Rank Adaptation
von: Sehanobish, Arijit, et al.
Veröffentlicht: (2026)

AdaPreLoRA: Adafactor Preconditioned Low-Rank Adaptation
von: Liu, Ziyun, et al.
Veröffentlicht: (2026)

AutoLoRA: Automatically Tuning Matrix Ranks in Low-Rank Adaptation Based on Meta Learning
von: Zhang, Ruiyi, et al.
Veröffentlicht: (2024)

Bridging the Bosphorus: Advancing Turkish Large Language Models through Strategies for Low-Resource Language Adaptation and Benchmarking
von: Acikgoz, Emre Can, et al.
Veröffentlicht: (2024)

Sequences of Logits Reveal the Low Rank Structure of Language Models
von: Golowich, Noah, et al.
Veröffentlicht: (2025)

Multiple Choice Learning of Low-Rank Adapters for Language Modeling
von: Letzelter, Victor, et al.
Veröffentlicht: (2025)

FR-Spec: Accelerating Large-Vocabulary Language Models via Frequency-Ranked Speculative Sampling
von: Zhao, Weilin, et al.
Veröffentlicht: (2025)

Multimodal Needle in a Haystack: Benchmarking Long-Context Capability of Multimodal Large Language Models
von: Wang, Hengyi, et al.
Veröffentlicht: (2024)

KaSA: Knowledge-Aware Singular-Value Adaptation of Large Language Models
von: Wang, Fan, et al.
Veröffentlicht: (2024)