Buchumschlag

Analyzing the Neural Tangent Kernel of Periodically Activated Coordinate Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Saratchandran, Hemanth, Chng, Shin-Fang, Lucey, Simon
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Architectural Strategies for the optimization of Physics-Informed Neural Networks
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)

Preconditioners for the Stochastic Training of Neural Fields
von: Chng, Shin-Fang, et al.
Veröffentlicht: (2024)

From Activation to Initialization: Scaling Insights for Optimizing Neural Fields
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)

Spectral Conditioning of Attention Improves Transformer Performance
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2026)

The Inlet Rank Collapse in Implicit Neural Representations: Diagnosis and Unified Remedy
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2026)

A Sampling Theory Perspective on Activations for Implicit Neural Representations
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)

Invertible Neural Warp for NeRF
von: Chng, Shin-Fang, et al.
Veröffentlicht: (2024)

Leaner Transformers: More Heads, Less Depth
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2025)

SineLoRA$Δ$: Sine-Activated Delta Compression
von: Gordon, Cameron, et al.
Veröffentlicht: (2025)

Stable Forgetting: Bounded Parameter-Efficient Unlearning in Foundation Models
von: Garg, Arpit, et al.
Veröffentlicht: (2025)

Efficient Learning With Sine-Activated Low-rank Matrices
von: Ji, Yiping, et al.
Veröffentlicht: (2024)

Always Skip Attention
von: Ji, Yiping, et al.
Veröffentlicht: (2025)

D'OH: Decoder-Only Random Hypernetworks for Implicit Neural Representations
von: Gordon, Cameron, et al.
Veröffentlicht: (2024)

Preconditioned Attention: Enhancing Efficiency in Transformers
von: Saratchandran, Hemanth
Veröffentlicht: (2026)

The Quantization Benefits of Residual-Free Transformers
von: Ji, Yiping, et al.
Veröffentlicht: (2026)

Rethinking Attention: Polynomial Alternatives to Softmax in Transformers
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)

From Tables to Signals: Revealing Spectral Adaptivity in TabPFN
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2025)

Enhancing Transformers Through Conditioned Embedded Tokens
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2025)

Weight Conditioning for Smooth Optimization of Neural Networks
von: Saratchandran, Hemanth, et al.
Veröffentlicht: (2024)

Issues with Neural Tangent Kernel Approach to Neural Networks
von: Liu, Haoran, et al.
Veröffentlicht: (2025)

Cutting the Skip: Training Residual-Free Transformers
von: Ji, Yiping, et al.
Veröffentlicht: (2025)

Equivariant Neural Tangent Kernels
von: Misof, Philipp, et al.
Veröffentlicht: (2024)

The Neural Tangent Kernel for Classification
von: Plenk, Jonathan, et al.
Veröffentlicht: (2026)

SineProject: Machine Unlearning for Stable Vision Language Alignment
von: Garg, Arpit, et al.
Veröffentlicht: (2025)

Neural Tangent Kernel of Neural Networks with Loss Informed by Differential Operators
von: Gan, Weiye, et al.
Veröffentlicht: (2025)

Efficient Analysis of the Distilled Neural Tangent Kernel
von: Mahowald, Jamie, et al.
Veröffentlicht: (2026)

Uncertainty Quantification with the Empirical Neural Tangent Kernel
von: Wilson, Joseph, et al.
Veröffentlicht: (2025)

Topological Neural Tangent Kernel
von: Krishnagopal, Sanjukta
Veröffentlicht: (2026)

Faithful and Efficient Explanations for Neural Networks via Neural Tangent Kernel Surrogate Models
von: Engel, Andrew, et al.
Veröffentlicht: (2023)

An Application of the Holonomic Gradient Method to the Neural Tangent Kernel
von: Sakoda, Akihiro, et al.
Veröffentlicht: (2024)

On the Impacts of the Random Initialization in the Neural Tangent Kernel Theory
von: Chen, Guhan, et al.
Veröffentlicht: (2024)

Epistemic Uncertainty and Observation Noise with the Neural Tangent Kernel
von: Calvo-Ordoñez, Sergio, et al.
Veröffentlicht: (2024)

Understanding the Evolution of the Neural Tangent Kernel at the Edge of Stability
von: Jiang, Kaiqi, et al.
Veröffentlicht: (2025)

"Lossless" Compression of Deep Neural Networks: A High-dimensional Neural Tangent Kernel Approach
von: Gu, Lingyu, et al.
Veröffentlicht: (2024)

Eigenvalue distribution of the Neural Tangent Kernel in the quadratic scaling
von: Benigni, Lucas, et al.
Veröffentlicht: (2025)

Towards a Statistical Understanding of Neural Networks: Beyond the Neural Tangent Kernel Theories
von: Zhang, Haobo, et al.
Veröffentlicht: (2024)

Divergence of Empirical Neural Tangent Kernel in Classification Problems
von: Yu, Zixiong, et al.
Veröffentlicht: (2025)

The Positivity of the Neural Tangent Kernel
von: Carvalho, Luís, et al.
Veröffentlicht: (2024)

Data Denoising and Derivative Estimation for Data-Driven Modeling of Nonlinear Dynamical Systems
von: Yao, Jiaqi, et al.
Veröffentlicht: (2025)

Structured Initialization for Vision Transformers
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2025)