Copertina

Riemannian Gradient Descent for Low-Rank Architectures

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autore principale:	Knight, Nicholas
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Machine Learning
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Low-Tubal-Rank Tensor Recovery via Factorized Gradient Descent
di: Liu, Zhiyu, et al.
Pubblicazione: (2024)

Inversion-Free Natural Gradient Descent on Riemannian Manifolds
di: Draca, Dario, et al.
Pubblicazione: (2026)

Guaranteed Nonconvex Low-Rank Tensor Estimation via Scaled Gradient Descent
di: Wu, Tong
Pubblicazione: (2025)

Fast Quantum Process Tomography via Riemannian Gradient Descent
di: Volya, Daniel, et al.
Pubblicazione: (2024)

Efficient Low-Tubal-Rank Tensor Estimation via Alternating Preconditioned Gradient Descent
di: Liu, Zhiyu, et al.
Pubblicazione: (2025)

Low-Rank Learning by Design: the Role of Network Architecture and Activation Linearity in Gradient Rank Collapse
di: Baker, Bradley T., et al.
Pubblicazione: (2024)

Faster Convergence of Riemannian Stochastic Gradient Descent with Increasing Batch Size
di: Oowada, Kanata, et al.
Pubblicazione: (2025)

Scaled Gradient Descent for Ill-Conditioned Low-Rank Matrix Recovery with Optimal Sampling Complexity
di: Li, Zhenxuan, et al.
Pubblicazione: (2026)

Mirror Descent on Riemannian Manifolds
di: Jiang, Jiaxin, et al.
Pubblicazione: (2026)

Rank-1 Matrix Completion with Gradient Descent and Small Random Initialization
di: Kim, Daesung, et al.
Pubblicazione: (2022)

Riemannian Optimization for Hadamard Products of Low-Rank Matrices
di: Jawanpuria, Pratik, et al.
Pubblicazione: (2026)

Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation
di: Cai, Yang, et al.
Pubblicazione: (2023)

Bias of Stochastic Gradient Descent or the Architecture: Disentangling the Effects of Overparameterization of Neural Networks
di: Peleg, Amit, et al.
Pubblicazione: (2024)

Fast and Accurate Estimation of Low-Rank Matrices from Noisy Measurements via Preconditioned Non-Convex Gradient Descent
di: Zhang, Gavin, et al.
Pubblicazione: (2023)

Occam Gradient Descent
di: Kausik, B. N.
Pubblicazione: (2024)

From Low Rank Gradient Subspace Stabilization to Low-Rank Weights: Observations, Theories, and Applications
di: Jaiswal, Ajay, et al.
Pubblicazione: (2024)

Asymptotic Normality of Generalized Low-Rank Matrix Sensing via Riemannian Geometry
di: Bastani, Osbert
Pubblicazione: (2024)

Tight Bounds for Logistic Regression with Large Stepsize Gradient Descent in Low Dimension
di: Crawshaw, Michael, et al.
Pubblicazione: (2026)

Stacking as Accelerated Gradient Descent
di: Agarwal, Naman, et al.
Pubblicazione: (2024)

Fast and Provable Tensor-Train Format Tensor Completion via Precondtioned Riemannian Gradient Descent
di: Bian, Fengmiao, et al.
Pubblicazione: (2025)

Stochastic Adaptive Gradient Descent Without Descent
di: Aujol, Jean-François, et al.
Pubblicazione: (2025)

Corner Gradient Descent
di: Yarotsky, Dmitry
Pubblicazione: (2025)

How Does Label Noise Gradient Descent Improve Generalization in the Low SNR Regime?
di: Huang, Wei, et al.
Pubblicazione: (2025)

Low Rank Gradients and Where to Find Them
di: Sonthalia, Rishi, et al.
Pubblicazione: (2025)

Stochastic Modified Flows for Riemannian Stochastic Gradient Descent
di: Gess, Benjamin, et al.
Pubblicazione: (2024)

Adaptive Stochastic Gradient Descents on Manifolds with an Application on Weighted Low-Rank Approximation
di: Yang, Peiqi, et al.
Pubblicazione: (2025)

Distributed Gradient Descent for Functional Learning
di: Yu, Zhan, et al.
Pubblicazione: (2023)

Robust Gradient Descent for Phase Retrieval
di: Buna, Alex, et al.
Pubblicazione: (2024)

On the Generalization of Stochastic Gradient Descent with Momentum
di: Ramezani-Kebrya, Ali, et al.
Pubblicazione: (2018)

Unbiased Gradient Low-Rank Projection
di: Pan, Rui, et al.
Pubblicazione: (2025)

Adaptive Conditional Gradient Descent
di: Khademi, Abbas, et al.
Pubblicazione: (2025)

Neutron Reflectometry by Gradient Descent
di: Champneys, Max D., et al.
Pubblicazione: (2025)

Gradient Descent Algorithm Survey
di: Fucheng, Deng, et al.
Pubblicazione: (2025)

Thermodynamic Natural Gradient Descent
di: Donatella, Kaelan, et al.
Pubblicazione: (2024)

$k$-SVD with Gradient Descent
di: Jedra, Yassir, et al.
Pubblicazione: (2025)

Flora: Low-Rank Adapters Are Secretly Gradient Compressors
di: Hao, Yongchang, et al.
Pubblicazione: (2024)

Matrix Low-Rank Approximation For Policy Gradient Methods
di: Rozada, Sergio, et al.
Pubblicazione: (2024)

Learning Tree-Based Models with Gradient Descent
di: Marton, Sascha
Pubblicazione: (2026)

On the Convergence Rate of LoRA Gradient Descent
di: Mu, Siqiao, et al.
Pubblicazione: (2025)

Adjacent Leader Decentralized Stochastic Gradient Descent
di: He, Haoze, et al.
Pubblicazione: (2024)