Copertina

Spectral Adapter: Fine-Tuning in Spectral Space

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Zhang, Fangzhao, Pilanci, Mert
Natura:	Preprint
Pubblicazione:	2024
Soggetti:	Machine Learning Artificial Intelligence
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Riemannian Preconditioned LoRA for Fine-Tuning Foundation Models
di: Zhang, Fangzhao, et al.
Pubblicazione: (2024)

Optimizer-Induced Mode Connectivity: From AdamW to Muon
di: Zhang, Fangzhao, et al.
Pubblicazione: (2026)

Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization
di: Zhang, Fangzhao, et al.
Pubblicazione: (2024)

From Complexity to Clarity: Analytical Expressions of Deep Neural Network Weights via Clifford's Geometric Algebra and Convexity
di: Pilanci, Mert
Pubblicazione: (2023)

Active Learning of Deep Neural Networks via Gradient-Free Cutting Planes
di: Zhang, Erica, et al.
Pubblicazione: (2024)

Thinking While Listening: Simple Test Time Scaling For Audio Classification
di: Verma, Prateek, et al.
Pubblicazione: (2025)

Newton Meets Marchenko-Pastur: Massively Parallel Second-Order Optimization with Hessian Sketching and Debiasing
di: Romanov, Elad, et al.
Pubblicazione: (2024)

Adaptive Large Language Models By Layerwise Attention Shortcuts
di: Verma, Prateek, et al.
Pubblicazione: (2024)

Towards Signal Processing In Large Language Models
di: Verma, Prateek, et al.
Pubblicazione: (2024)

Not All Adapters Matter: Selective Adapter Freezing for Memory-Efficient Fine-Tuning of Language Models
di: Son, Hyegang, et al.
Pubblicazione: (2024)

Rank Also Matters: Hierarchical Configuration for Mixture of Adapter Experts in LLM Fine-Tuning
di: Cong, Peizhuang, et al.
Pubblicazione: (2025)

ABBA-Adapters: Efficient and Expressive Fine-Tuning of Foundation Models
di: Singhal, Raghav, et al.
Pubblicazione: (2025)

Symbiosis: Multi-Adapter Inference and Fine-Tuning
di: Gupta, Saransh, et al.
Pubblicazione: (2025)

Large Language Models Implicitly Learn to See and Hear Just By Reading
di: Verma, Prateek, et al.
Pubblicazione: (2025)

FL-TAC: Enhanced Fine-Tuning in Federated Learning via Low-Rank, Task-Specific Adapter Clustering
di: Ping, Siqi, et al.
Pubblicazione: (2024)

Magnitude-Modulated Equivariant Adapter for Parameter-Efficient Fine-Tuning of Equivariant Graph Neural Networks
di: Jin, Dian, et al.
Pubblicazione: (2025)

Graph Adapter of EEG Foundation Models for Parameter Efficient Fine Tuning
di: Suzumura, Toyotaro, et al.
Pubblicazione: (2024)

LaMDA: Large Model Fine-Tuning via Spectrally Decomposed Low-Dimensional Adaptation
di: Azizi, Seyedarmin, et al.
Pubblicazione: (2024)

Uncovering the Spectral Bias in Diagonal State Space Models
di: Solozabal, Ruben, et al.
Pubblicazione: (2025)

mLoRA: Fine-Tuning LoRA Adapters via Highly-Efficient Pipeline Parallelism in Multiple GPUs
di: Ye, Zhengmao, et al.
Pubblicazione: (2023)

MetaTT: A Global Tensor-Train Adapter for Parameter-Efficient Fine-Tuning
di: Lopez-Piqueres, Javier, et al.
Pubblicazione: (2025)

Compressing Large Language Models using Low Rank and Low Precision Decomposition
di: Saha, Rajarshi, et al.
Pubblicazione: (2024)

Aggregating Low Rank Adapters in Federated Fine-tuning
di: Trautmann, Evelyn, et al.
Pubblicazione: (2025)

Spectral Gating Networks
di: Zhang, Jusheng, et al.
Pubblicazione: (2026)

Spectral bandits
di: Kocák, Tomáš, et al.
Pubblicazione: (2026)

Learning When to Trust LLM Priors: A Validated Framework for Semantic Prior Integration
di: Zhang, Erica, et al.
Pubblicazione: (2026)

Coefficient Decomposition for Spectral Graph Convolution
di: Huang, Feng, et al.
Pubblicazione: (2024)

PiCa: Parameter-Efficient Fine-Tuning with Column Space Projection
di: Hwang, Junseo, et al.
Pubblicazione: (2025)

QuIC: Quantum-Inspired Compound Adapters for Parameter Efficient Fine-Tuning
di: Raj, Snehal, et al.
Pubblicazione: (2025)

Shape-aware Graph Spectral Learning
di: Xu, Junjie, et al.
Pubblicazione: (2023)

Context-Aware Adapter Tuning for Few-Shot Relation Learning in Knowledge Graphs
di: Liu, Ran, et al.
Pubblicazione: (2024)

Adaptive Budget Allocation for Orthogonal-Subspace Adapter Tuning in LLMs Continual Learning
di: Wan, Zhiyi, et al.
Pubblicazione: (2025)

Spectral Clustering for Discrete Distributions
di: Wang, Zixiao, et al.
Pubblicazione: (2024)

Spectral Transformer Neural Processes
di: Chen, Xianhe, et al.
Pubblicazione: (2026)

Graph Persistence goes Spectral
di: Ji, Mattie, et al.
Pubblicazione: (2025)

Caracal: Causal Architecture via Spectral Mixing
di: Gan, Bingzheng, et al.
Pubblicazione: (2026)

Optimal Shrinkage for Distributed Second-Order Optimization
di: Zhang, Fangzhao, et al.
Pubblicazione: (2024)

Learning Robust Spectral Dynamics for Temporal Domain Generalization
di: Yu, En, et al.
Pubblicazione: (2025)

Diffusion Spectral Representation for Reinforcement Learning
di: Shribak, Dmitry, et al.
Pubblicazione: (2024)

Spatio-Spectral Graph Neural Networks
di: Geisler, Simon, et al.
Pubblicazione: (2024)