Buchumschlag

Nonlinear spiked covariance matrices and signal propagation in deep neural networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wang, Zhichao, Wu, Denny, Fan, Zhou
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Probability Statistics Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Eigen-Spike Emergence and Quadratic Equivalents for Conjugate Kernels on Nonlinearly Separable Data
von: Cranston, Collin, et al.
Veröffentlicht: (2026)

Edgeworth corrections for the spiked eigenvalues of non-Gaussian sample covariance matrices with applications
von: Wei, Yashi, et al.
Veröffentlicht: (2025)

Optimal Exact Recovery in Semi-Supervised Learning: A Study of Spectral Methods and Graph Convolutional Networks
von: Wang, Hai-Xiao, et al.
Veröffentlicht: (2024)

Universality of Kernel Random Matrices and Kernel Regression in the Quadratic Regime
von: Pandit, Parthe, et al.
Veröffentlicht: (2024)

Sliding down the stairs: how correlated latent variables accelerate learning with neural networks
von: Bardone, Lorenzo, et al.
Veröffentlicht: (2024)

Gaussian random field approximation via Stein's method with applications to wide random neural networks
von: Balasubramanian, Krishnakumar, et al.
Veröffentlicht: (2023)

Analysis of a multi-target linear shrinkage covariance estimator
von: Oriol, Benoit
Veröffentlicht: (2024)

Asymptotic spectrum of weighted sample covariance: another proof of spectrum convergence
von: Oriol, Benoit
Veröffentlicht: (2024)

Predicting path-dependent processes by deep learning
von: Zheng, Xudong, et al.
Veröffentlicht: (2024)

Asymptotic non-linear shrinkage and eigenvector overlap for weighted sample covariance
von: Oriol, Benoit
Veröffentlicht: (2024)

Anisotropic local law for non-separable sample covariance matrices
von: Fan, Zhou, et al.
Veröffentlicht: (2026)

On Universality of Non-Separable Approximate Message Passing Algorithms
von: Lovig, Max, et al.
Veröffentlicht: (2025)

WeSpeR: Computing non-linear shrinkage formulas for the weighted sample covariance
von: Oriol, Benoit
Veröffentlicht: (2024)

Are Bayesian networks typically faithful?
von: Boeken, Philip, et al.
Veröffentlicht: (2024)

Nonlinear Bayesian Update via Ensemble Kernel Regression with Clustering and Subsampling
von: Lee, Yoonsang
Veröffentlicht: (2025)

Phase transitions reveal hierarchical structure in deep neural networks
von: Ersoy, Ibrahim Talha, et al.
Veröffentlicht: (2025)

Functional CLT for general sample covariance matrices
von: Cui, Jian, et al.
Veröffentlicht: (2026)

The twin peaks of learning neural networks
von: Demyanenko, Elizaveta, et al.
Veröffentlicht: (2024)

High-dimensional scaling limits and fluctuations of online least-squares SGD with smooth covariance
von: Balasubramanian, Krishnakumar, et al.
Veröffentlicht: (2023)

Mind the spikes: Benign overfitting of kernels and neural networks in fixed dimension
von: Haas, Moritz, et al.
Veröffentlicht: (2023)

On the rate of convergence in the CLT for LSS of large-dimensional sample covariance matrices
von: Cui, Jian, et al.
Veröffentlicht: (2025)

Tractability from overparametrization: The example of the negative perceptron
von: Montanari, Andrea, et al.
Veröffentlicht: (2021)

High-dimensional manifold of solutions in neural networks: insights from statistical physics
von: Malatesta, Enrico M.
Veröffentlicht: (2023)

Extended UCB Policies for Multi-armed Bandit Problems
von: Liu, Keqin, et al.
Veröffentlicht: (2011)

Universality of first-order methods on random and deterministic matrices
von: Gorini, Nicola, et al.
Veröffentlicht: (2026)

Eigenvector distributions and optimal shrinkage estimators for large covariance and precision matrices
von: Ding, Xiucai, et al.
Veröffentlicht: (2024)

Optimal and exact recovery on general non-uniform Hypergraph Stochastic Block Model
von: Dumitriu, Ioana, et al.
Veröffentlicht: (2023)

Kronecker-product random matrices and a matrix least squares problem
von: Fan, Zhou, et al.
Veröffentlicht: (2024)

Partial recovery and weak consistency in the non-uniform hypergraph Stochastic Block Model
von: Dumitriu, Ioana, et al.
Veröffentlicht: (2021)

Sampling from Constrained Gibbs Measures: with Applications to High-Dimensional Bayesian Inference
von: Wang, Ruixiao, et al.
Veröffentlicht: (2026)

Minimax Rates for Learning Pairwise Interactions in Attention-Style Models
von: Zucker, Shai, et al.
Veröffentlicht: (2025)

Statistical limits of correlation detection in trees
von: Ganassali, Luca, et al.
Veröffentlicht: (2022)

Maximum entropy based testing in network models: ERGMs and constrained optimization
von: Ghosh, Subhro, et al.
Veröffentlicht: (2026)

A polynomial time iterative algorithm for matching Gaussian matrices with non-vanishing correlation
von: Ding, Jian, et al.
Veröffentlicht: (2022)

Phase transition for conditional covariance matrices estimated by importance sampling, and implications for cross-entropy schemes in high dimension
von: Beh, Jason, et al.
Veröffentlicht: (2025)

Restricted Spectral Gap Decomposition for Simulated Tempering Targeting Mixture Distributions
von: Garg, Jhanvi, et al.
Veröffentlicht: (2025)

On the VC dimension of deep group convolutional neural networks
von: Sepliarskaia, Anna, et al.
Veröffentlicht: (2024)

Fisher information flow in artificial neural networks
von: Weimar, Maximilian, et al.
Veröffentlicht: (2025)

Simple Relative Deviation Bounds for Covariance and Gram Matrices
von: Barzilai, Daniel, et al.
Veröffentlicht: (2024)

Convergence Bounds for Sequential Monte Carlo on Multimodal Distributions using Soft Decomposition
von: Lee, Holden, et al.
Veröffentlicht: (2024)