Generalized Tangent Kernel: A Unified Geometric Foundation for Natural Gradient and Standard Gradient
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Bai, Qinxun, Rosenberg, Steven, Xu, Wei |
|---|---|
| Format: | Preprint |
| Publié: |
2022
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
An Application of the Holonomic Gradient Method to the Neural Tangent Kernel
par: Sakoda, Akihiro, et autres
Publié: (2024)
par: Sakoda, Akihiro, et autres
Publié: (2024)
Discretized Gradient Flow for Manifold Learning in the Space of Embeddings
par: Gold, Dara, et autres
Publié: (2019)
par: Gold, Dara, et autres
Publié: (2019)
Gradient Regularized Natural Gradients
par: Dash, Satya Prakash, et autres
Publié: (2026)
par: Dash, Satya Prakash, et autres
Publié: (2026)
Beyond Backpropagation: Optimization with Multi-Tangent Forward Gradients
par: Flügel, Katharina, et autres
Publié: (2024)
par: Flügel, Katharina, et autres
Publié: (2024)
The Neural Tangent Kernel for Classification
par: Plenk, Jonathan, et autres
Publié: (2026)
par: Plenk, Jonathan, et autres
Publié: (2026)
Equivariant Neural Tangent Kernels
par: Misof, Philipp, et autres
Publié: (2024)
par: Misof, Philipp, et autres
Publié: (2024)
Functional Critics Are Essential for Actor-Critic: From Off-Policy Stability to Efficient Exploration
par: Bai, Qinxun, et autres
Publié: (2025)
par: Bai, Qinxun, et autres
Publié: (2025)
Geometrically Inspired Kernel Machines for Collaborative Learning Beyond Gradient Descent
par: Kumar, Mohit, et autres
Publié: (2024)
par: Kumar, Mohit, et autres
Publié: (2024)
Enhancing Diversity in Bayesian Deep Learning via Hyperspherical Energy Minimization of CKA
par: Smerkous, David, et autres
Publié: (2024)
par: Smerkous, David, et autres
Publié: (2024)
Robust Tangent Space Estimation via Laplacian Eigenvector Gradient Orthogonalization
par: Kohli, Dhruv, et autres
Publié: (2025)
par: Kohli, Dhruv, et autres
Publié: (2025)
Generalization Bound of Gradient Flow through Training Trajectory and Data-dependent Kernel
par: Chen, Yilan, et autres
Publié: (2025)
par: Chen, Yilan, et autres
Publié: (2025)
Efficient Analysis of the Distilled Neural Tangent Kernel
par: Mahowald, Jamie, et autres
Publié: (2026)
par: Mahowald, Jamie, et autres
Publié: (2026)
Uncertainty Quantification with the Empirical Neural Tangent Kernel
par: Wilson, Joseph, et autres
Publié: (2025)
par: Wilson, Joseph, et autres
Publié: (2025)
Policy Gradient with Kernel Quadrature
par: Hayakawa, Satoshi, et autres
Publié: (2023)
par: Hayakawa, Satoshi, et autres
Publié: (2023)
Kernel-Gradient Drifting Models
par: Esteban-Casadevall, Maria, et autres
Publié: (2026)
par: Esteban-Casadevall, Maria, et autres
Publié: (2026)
On the Convergence Analysis of Over-Parameterized Variational Autoencoders: A Neural Tangent Kernel Perspective
par: Wang, Li, et autres
Publié: (2024)
par: Wang, Li, et autres
Publié: (2024)
Learning Mixture Density via Natural Gradient Expectation Maximization
par: Chen, Yutao, et autres
Publié: (2026)
par: Chen, Yutao, et autres
Publié: (2026)
TENG-BC: Unified Time-Evolving Natural Gradient for Neural PDE Solvers with General Boundary Conditions
par: Jiang, Hongjie, et autres
Publié: (2026)
par: Jiang, Hongjie, et autres
Publié: (2026)
Topological Neural Tangent Kernel
par: Krishnagopal, Sanjukta
Publié: (2026)
par: Krishnagopal, Sanjukta
Publié: (2026)
Issues with Neural Tangent Kernel Approach to Neural Networks
par: Liu, Haoran, et autres
Publié: (2025)
par: Liu, Haoran, et autres
Publié: (2025)
On the Impacts of the Random Initialization in the Neural Tangent Kernel Theory
par: Chen, Guhan, et autres
Publié: (2024)
par: Chen, Guhan, et autres
Publié: (2024)
Understanding the Evolution of the Neural Tangent Kernel at the Edge of Stability
par: Jiang, Kaiqi, et autres
Publié: (2025)
par: Jiang, Kaiqi, et autres
Publié: (2025)
Epistemic Uncertainty and Observation Noise with the Neural Tangent Kernel
par: Calvo-Ordoñez, Sergio, et autres
Publié: (2024)
par: Calvo-Ordoñez, Sergio, et autres
Publié: (2024)
Truncated Kernel Stochastic Gradient Descent on Spheres
par: Bai, Jinhui, et autres
Publié: (2024)
par: Bai, Jinhui, et autres
Publié: (2024)
Functional Natural Policy Gradients
par: Bibaut, Aurelien, et autres
Publié: (2026)
par: Bibaut, Aurelien, et autres
Publié: (2026)
Moment Alignment: Unifying Gradient and Hessian Matching for Domain Generalization
par: Chen, Yuen, et autres
Publié: (2025)
par: Chen, Yuen, et autres
Publié: (2025)
Eigenvalue distribution of the Neural Tangent Kernel in the quadratic scaling
par: Benigni, Lucas, et autres
Publié: (2025)
par: Benigni, Lucas, et autres
Publié: (2025)
Fast Adaptation with Kernel and Gradient based Meta Leaning
par: Park, JuneYoung, et autres
Publié: (2024)
par: Park, JuneYoung, et autres
Publié: (2024)
Adaptive Kernel Selection for Stein Variational Gradient Descent
par: Melcher, Moritz, et autres
Publié: (2025)
par: Melcher, Moritz, et autres
Publié: (2025)
Learning Curves of Stochastic Gradient Descent in Kernel Regression
par: Zhang, Haihan, et autres
Publié: (2025)
par: Zhang, Haihan, et autres
Publié: (2025)
The Quantum Path Kernel: a Generalized Quantum Neural Tangent Kernel for Deep Quantum Machine Learning
par: Incudini, Massimiliano, et autres
Publié: (2022)
par: Incudini, Massimiliano, et autres
Publié: (2022)
Analyzing the Neural Tangent Kernel of Periodically Activated Coordinate Networks
par: Saratchandran, Hemanth, et autres
Publié: (2024)
par: Saratchandran, Hemanth, et autres
Publié: (2024)
Truncated Kernel Stochastic Gradient Descent with General Losses and Spherical Radial Basis Functions
par: Bai, Jinhui, et autres
Publié: (2025)
par: Bai, Jinhui, et autres
Publié: (2025)
Kernel Approximation of Fisher-Rao Gradient Flows
par: Zhu, Jia-Jie, et autres
Publié: (2024)
par: Zhu, Jia-Jie, et autres
Publié: (2024)
Quadratic Gradient: A Unified Framework Bridging Gradient Descent and Newton-Type Methods by Synthesizing Hessians and Gradients
par: Chiang, John
Publié: (2022)
par: Chiang, John
Publié: (2022)
Divergence of Empirical Neural Tangent Kernel in Classification Problems
par: Yu, Zixiong, et autres
Publié: (2025)
par: Yu, Zixiong, et autres
Publié: (2025)
Optimising Distributions with Natural Gradient Surrogates
par: So, Jonathan, et autres
Publié: (2023)
par: So, Jonathan, et autres
Publié: (2023)
Model Reprogramming Demystified: A Neural Tangent Kernel Perspective
par: Chung, Ming-Yu, et autres
Publié: (2025)
par: Chung, Ming-Yu, et autres
Publié: (2025)
DNN-Based Topology Optimisation: Spatial Invariance and Neural Tangent Kernel
par: Dupuis, Benjamin, et autres
Publié: (2021)
par: Dupuis, Benjamin, et autres
Publié: (2021)
Neural Tangent Kernel of Neural Networks with Loss Informed by Differential Operators
par: Gan, Weiye, et autres
Publié: (2025)
par: Gan, Weiye, et autres
Publié: (2025)
Documents similaires
-
An Application of the Holonomic Gradient Method to the Neural Tangent Kernel
par: Sakoda, Akihiro, et autres
Publié: (2024) -
Discretized Gradient Flow for Manifold Learning in the Space of Embeddings
par: Gold, Dara, et autres
Publié: (2019) -
Gradient Regularized Natural Gradients
par: Dash, Satya Prakash, et autres
Publié: (2026) -
Beyond Backpropagation: Optimization with Multi-Tangent Forward Gradients
par: Flügel, Katharina, et autres
Publié: (2024) -
The Neural Tangent Kernel for Classification
par: Plenk, Jonathan, et autres
Publié: (2026)