Buchumschlag

On the Neural Feature Ansatz for Deep Neural Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tansley, Edward, Massart, Estelle, Cartis, Coralia
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Efficient Techniques for Data Reconstruction, with Finite-Width Recovery Guarantees
von: Tansley, Edward, et al.
Veröffentlicht: (2026)

Random Subspace Cubic-Regularization Methods, with Applications to Low-Rank Functions
von: Cartis, Coralia, et al.
Veröffentlicht: (2025)

Scalable Second-Order Optimization Algorithms for Minimizing Low-rank Functions
von: Tansley, Edward, et al.
Veröffentlicht: (2025)

Quadratic Objective Perturbation: Curvature-Based Differential Privacy
von: Cortild, Daniel, et al.
Veröffentlicht: (2026)

Learning the subspace of variation for global optimization of functions with low effective dimension
von: Cartis, Coralia, et al.
Veröffentlicht: (2024)

Expressivity of congruence-based architectures for DNNs on positive-definite matrices
von: Oswald, Antonin, et al.
Veröffentlicht: (2026)

A Parameter-Free First-Order Algorithm for Non-Convex Optimization with $\tilde{\mkern1mu O}(ε^{-5/3})$ Global Rate
von: Xiong, Sichao, et al.
Veröffentlicht: (2026)

The role of class encoding in neural collapse
von: Massion, Bastien, et al.
Veröffentlicht: (2026)

Nonlinear Dimensionality Reduction Techniques for Bayesian Optimization
von: Long, Luo, et al.
Veröffentlicht: (2025)

Dimensionality Reduction Techniques for Global Bayesian Optimisation
von: Long, Luo, et al.
Veröffentlicht: (2024)

SoS1: O1 and R1-Like Reasoning LLMs are Sum-of-Square Solvers
von: Li, Kechen, et al.
Veröffentlicht: (2025)

Configuration-to-Performance Scaling Law with Neural Ansatz
von: Zhang, Huaqing, et al.
Veröffentlicht: (2026)

Kernel Renormalization in Bayesian Deep Neural Networks: the Equivalent Wishart Ansatz in the Proportional Regime
von: Baglioni, Paolo, et al.
Veröffentlicht: (2026)

The Features at Convergence Theorem: a first-principles alternative to the Neural Feature Ansatz for how networks learn representations
von: Boix-Adsera, Enric, et al.
Veröffentlicht: (2025)

How Does Preconditioning Guide Feature Learning in Deep Neural Networks?
von: Yoshida, Kotaro, et al.
Veröffentlicht: (2025)

A Nonparametric Statistics Approach to Feature Selection in Deep Neural Networks with Theoretical Guarantees
von: Du, Junye, et al.
Veröffentlicht: (2025)

PreNeT: Leveraging Computational Features to Predict Deep Neural Network Training Time
von: Pourali, Alireza, et al.
Veröffentlicht: (2024)

On Global Rates for Regularization Methods based on Secant Derivative Approximations
von: Cartis, Coralia, et al.
Veröffentlicht: (2025)

Global Optimality Characterizations and Algorithms for Minimizing Quartically-Regularized Third-Order Taylor Polynomials
von: Zhu, Wenqi, et al.
Veröffentlicht: (2025)

Sufficiently Regularized Nonnegative Quartic Polynomials are Sum-of-Squares
von: Zhu, Wenqi, et al.
Veröffentlicht: (2026)

Randomized Subspace Derivative-Free Optimization with Quadratic Models and Second-Order Convergence
von: Cartis, Coralia, et al.
Veröffentlicht: (2024)

Second-order methods for quartically-regularised cubic polynomials, with applications to high-order tensor methods
von: Cartis, Coralia, et al.
Veröffentlicht: (2023)

Global Convergence of High-Order Regularization Methods with Sums-of-Squares Taylor Models
von: Zhu, Wenqi, et al.
Veröffentlicht: (2024)

Stochastic Krasnoselskii-Mann Iterations: Convergence without Uniformly Bounded Variance
von: Cortild, Daniel, et al.
Veröffentlicht: (2026)

Perturbation on Feature Coalition: Towards Interpretable Deep Neural Networks
von: Hu, Xuran, et al.
Veröffentlicht: (2024)

Beyond Unconstrained Features: Neural Collapse for Shallow Neural Networks with General Data
von: Hong, Wanli, et al.
Veröffentlicht: (2024)

Slicing Input Features to Accelerate Deep Learning: A Case Study with Graph Neural Networks
von: Xu, Zhengjia, et al.
Veröffentlicht: (2024)

On the Stability of Neural Networks in Deep Learning
von: Delattre, Blaise
Veröffentlicht: (2025)

Optimality and Adaptivity of Deep Neural Features for Instrumental Variable Regression
von: Kim, Juno, et al.
Veröffentlicht: (2025)

Quantum HyperNetworks: Training Binary Neural Networks in Quantum Superposition
von: Carrasquilla, Juan, et al.
Veröffentlicht: (2023)

Feature Dynamics as Implicit Data Augmentation: A Depth-Decomposed View on Deep Neural Network Generalization
von: Ruan, Tianyu, et al.
Veröffentlicht: (2025)

Adaptive Node Feature Selection For Graph Neural Networks
von: Navarro, Madeline, et al.
Veröffentlicht: (2025)

Topological Feature Compression for Molecular Graph Neural Networks
von: Khorana, Rahul
Veröffentlicht: (2025)

Canonical Regularisation of Wide Feature-Learning Neural Networks
von: Whittle, George, et al.
Veröffentlicht: (2026)

Fourier Feature Pyramids for Physics-Informed Neural Networks
von: Zhao, Brandon, et al.
Veröffentlicht: (2026)

Learning with Shallow Neural Networks on Cluster-Structured Features
von: Cornacchia, Elisabetta, et al.
Veröffentlicht: (2026)

Understanding and Minimising Outlier Features in Neural Network Training
von: He, Bobby, et al.
Veröffentlicht: (2024)

Flexible Infinite-Width Graph Convolutional Neural Networks
von: Anson, Ben, et al.
Veröffentlicht: (2024)

DeepDefense: Layer-Wise Gradient-Feature Alignment for Building Robust Neural Networks
von: Lin, Ci, et al.
Veröffentlicht: (2025)

BeniFul: Backdoor Defense via Middle Feature Analysis for Deep Neural Networks
von: Li, Xinfu, et al.
Veröffentlicht: (2024)