Gespeichert in:
| Hauptverfasser: | Gordon, Cameron, Ji, Yiping, Saratchandran, Hemanth, Albert, Paul, Lucey, Simon |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | https://arxiv.org/abs/2505.21895 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Efficient Learning With Sine-Activated Low-rank Matrices
von: Ji, Yiping, et al.
Veröffentlicht: (2024)
von: Ji, Yiping, et al.
Veröffentlicht: (2024)
From Tables to Signals: Revealing Spectral Adaptivity in TabPFN
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2025)
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2025)
Stable Forgetting: Bounded Parameter-Efficient Unlearning in Foundation Models
von: Garg, Arpit, et al.
Veröffentlicht: (2025)
von: Garg, Arpit, et al.
Veröffentlicht: (2025)
SineProject: Machine Unlearning for Stable Vision Language Alignment
von: Garg, Arpit, et al.
Veröffentlicht: (2025)
von: Garg, Arpit, et al.
Veröffentlicht: (2025)
Always Skip Attention
von: Ji, Yiping, et al.
Veröffentlicht: (2025)
von: Ji, Yiping, et al.
Veröffentlicht: (2025)
Spectral Conditioning of Attention Improves Transformer Performance
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2026)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2026)
From Activation to Initialization: Scaling Insights for Optimizing Neural Fields
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
Analyzing the Neural Tangent Kernel of Periodically Activated Coordinate Networks
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
The Quantization Benefits of Residual-Free Transformers
von: Ji, Yiping, et al.
Veröffentlicht: (2026)
von: Ji, Yiping, et al.
Veröffentlicht: (2026)
D'OH: Decoder-Only Random Hypernetworks for Implicit Neural Representations
von: Gordon, Cameron, et al.
Veröffentlicht: (2024)
von: Gordon, Cameron, et al.
Veröffentlicht: (2024)
Rethinking Attention: Polynomial Alternatives to Softmax in Transformers
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
The Inlet Rank Collapse in Implicit Neural Representations: Diagnosis and Unified Remedy
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2026)
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2026)
Leaner Transformers: More Heads, Less Depth
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2025)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2025)
Architectural Strategies for the optimization of Physics-Informed Neural Networks
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
A Sampling Theory Perspective on Activations for Implicit Neural Representations
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)
Preconditioners for the Stochastic Training of Neural Fields
von: Chng, Shin-Fang, et al.
Veröffentlicht: (2024)
von: Chng, Shin-Fang, et al.
Veröffentlicht: (2024)
Mask the Target: A Plug-and-Play Regularizer Against LoRA Forgetting
von: Xu, Runze, et al.
Veröffentlicht: (2026)
von: Xu, Runze, et al.
Veröffentlicht: (2026)
Cutting the Skip: Training Residual-Free Transformers
von: Ji, Yiping, et al.
Veröffentlicht: (2025)
von: Ji, Yiping, et al.
Veröffentlicht: (2025)
FiLoRA: Focus-and-Ignore LoRA for Controllable Feature Reliance
von: Chung, Hyunsuk, et al.
Veröffentlicht: (2026)
von: Chung, Hyunsuk, et al.
Veröffentlicht: (2026)
Activated LoRA: Fine-tuned LLMs for Intrinsics
von: Greenewald, Kristjan, et al.
Veröffentlicht: (2025)
von: Greenewald, Kristjan, et al.
Veröffentlicht: (2025)
Preconditioned Attention: Enhancing Efficiency in Transformers
von: Saratchandran, Hemanth
Veröffentlicht: (2026)
von: Saratchandran, Hemanth
Veröffentlicht: (2026)
RandLoRA: Full-rank parameter-efficient fine-tuning of large models
von: Albert, Paul, et al.
Veröffentlicht: (2025)
von: Albert, Paul, et al.
Veröffentlicht: (2025)
Enhancing Transformers Through Conditioned Embedded Tokens
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2025)
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2025)
Convergence Analysis of Aggregation-Broadcast in LoRA-enabled Distributed Fine-Tuning
von: Chen, Xin, et al.
Veröffentlicht: (2025)
von: Chen, Xin, et al.
Veröffentlicht: (2025)
Kron-LoRA: Hybrid Kronecker-LoRA Adapters for Scalable, Sustainable Fine-tuning
von: Shen, Yixin
Veröffentlicht: (2025)
von: Shen, Yixin
Veröffentlicht: (2025)
R-LoRA: Randomized Multi-Head LoRA for Efficient Multi-Task Learning
von: Liu, Jinda, et al.
Veröffentlicht: (2025)
von: Liu, Jinda, et al.
Veröffentlicht: (2025)
HiLoRA: Adaptive Hierarchical LoRA Routing for Training-Free Domain Generalization
von: Han, Ziyi, et al.
Veröffentlicht: (2025)
von: Han, Ziyi, et al.
Veröffentlicht: (2025)
LoRA-Mixer: Coordinate Modular LoRA Experts Through Serial Attention Routing
von: Li, Wenbing, et al.
Veröffentlicht: (2025)
von: Li, Wenbing, et al.
Veröffentlicht: (2025)
FedTreeLoRA: Reconciling Statistical and Functional Heterogeneity in Federated LoRA Fine-Tuning
von: Bian, Jieming, et al.
Veröffentlicht: (2026)
von: Bian, Jieming, et al.
Veröffentlicht: (2026)
SCALE-LoRA: Auditing Post-Retrieval LoRA Composition with Residual Merging and View Reliability
von: Zhou, Shuaipeng, et al.
Veröffentlicht: (2026)
von: Zhou, Shuaipeng, et al.
Veröffentlicht: (2026)
Ortho-Hydra: Orthogonalized Experts for DiT LoRA
von: Ji, Seunghyun
Veröffentlicht: (2026)
von: Ji, Seunghyun
Veröffentlicht: (2026)
Conditional LoRA Parameter Generation
von: Jin, Xiaolong, et al.
Veröffentlicht: (2024)
von: Jin, Xiaolong, et al.
Veröffentlicht: (2024)
LoRA on the Go: Instance-level Dynamic LoRA Selection and Merging
von: Lee, Seungeon, et al.
Veröffentlicht: (2025)
von: Lee, Seungeon, et al.
Veröffentlicht: (2025)
SC-LoRA: Balancing Efficient Fine-tuning and Knowledge Preservation via Subspace-Constrained LoRA
von: Luo, Minrui, et al.
Veröffentlicht: (2025)
von: Luo, Minrui, et al.
Veröffentlicht: (2025)
mLoRA: Fine-Tuning LoRA Adapters via Highly-Efficient Pipeline Parallelism in Multiple GPUs
von: Ye, Zhengmao, et al.
Veröffentlicht: (2023)
von: Ye, Zhengmao, et al.
Veröffentlicht: (2023)
LoRA Done RITE: Robust Invariant Transformation Equilibration for LoRA Optimization
von: Yen, Jui-Nan, et al.
Veröffentlicht: (2024)
von: Yen, Jui-Nan, et al.
Veröffentlicht: (2024)
ALLoRA: Adaptive Learning Rate Mitigates LoRA Fatal Flaws
von: Huang, Hai, et al.
Veröffentlicht: (2024)
von: Huang, Hai, et al.
Veröffentlicht: (2024)
S-LoRA: Serving Thousands of Concurrent LoRA Adapters
von: Sheng, Ying, et al.
Veröffentlicht: (2023)
von: Sheng, Ying, et al.
Veröffentlicht: (2023)
Semantic-guided LoRA Parameters Generation
von: Li, Miaoge, et al.
Veröffentlicht: (2025)
von: Li, Miaoge, et al.
Veröffentlicht: (2025)
Riemannian Optimization for LoRA on the Stiefel Manifold
von: Park, Juneyoung, et al.
Veröffentlicht: (2025)
von: Park, Juneyoung, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
Efficient Learning With Sine-Activated Low-rank Matrices
von: Ji, Yiping, et al.
Veröffentlicht: (2024) -
From Tables to Signals: Revealing Spectral Adaptivity in TabPFN
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2025) -
Stable Forgetting: Bounded Parameter-Efficient Unlearning in Foundation Models
von: Garg, Arpit, et al.
Veröffentlicht: (2025) -
SineProject: Machine Unlearning for Stable Vision Language Alignment
von: Garg, Arpit, et al.
Veröffentlicht: (2025) -
Always Skip Attention
von: Ji, Yiping, et al.
Veröffentlicht: (2025)