Investigating generalization capabilities of neural networks by means of loss landscapes and Hessian analysis
Fuente:
arXiv
Gespeichert in:
| 1. Verfasser: | Gabdullin, Nikita |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
The effects of Hessian eigenvalue spectral density type on the applicability of Hessian analysis to generalization capability assessment of neural networks
von: Gabdullin, Nikita
Veröffentlicht: (2025)
von: Gabdullin, Nikita
Veröffentlicht: (2025)
Exploring possible vector systems for faster training of neural networks with preconfigured latent spaces
von: Gabdullin, Nikita
Veröffentlicht: (2025)
von: Gabdullin, Nikita
Veröffentlicht: (2025)
Using predefined vector systems to speed up neural network multimillion class classification
von: Gabdullin, Nikita, et al.
Veröffentlicht: (2026)
von: Gabdullin, Nikita, et al.
Veröffentlicht: (2026)
Using predefined vector systems as latent space configuration for neural network supervised training on data with arbitrarily large number of classes
von: Gabdullin, Nikita
Veröffentlicht: (2025)
von: Gabdullin, Nikita
Veröffentlicht: (2025)
Visualizing high-dimensional loss landscapes with Hessian directions
von: Böttcher, Lucas, et al.
Veröffentlicht: (2022)
von: Böttcher, Lucas, et al.
Veröffentlicht: (2022)
Latent space configuration for improved generalization in supervised autoencoder neural networks
von: Gabdullin, Nikita
Veröffentlicht: (2024)
von: Gabdullin, Nikita
Veröffentlicht: (2024)
Improving analytical color and texture similarity estimation methods for dataset-agnostic person reidentification
von: Gabdullin, Nikita
Veröffentlicht: (2024)
von: Gabdullin, Nikita
Veröffentlicht: (2024)
On margin-based generalization prediction in deep neural networks
von: Mouton, Coenraad
Veröffentlicht: (2024)
von: Mouton, Coenraad
Veröffentlicht: (2024)
Visualizing the loss landscape of Self-supervised Vision Transformer
von: Lee, Youngwan, et al.
Veröffentlicht: (2024)
von: Lee, Youngwan, et al.
Veröffentlicht: (2024)
FAWN: Floor-And-Walls Normal Regularization for Direct Neural TSDF Reconstruction
von: Sokolova, Anna, et al.
Veröffentlicht: (2024)
von: Sokolova, Anna, et al.
Veröffentlicht: (2024)
Mapping Rio de Janeiro's favelas: general-purpose vs. satellite-specific neural networks
von: Hallopeau, Thomas, et al.
Veröffentlicht: (2025)
von: Hallopeau, Thomas, et al.
Veröffentlicht: (2025)
Hessian Surgery: Class-Targeted Post-Hoc Rebalancing via Hessian Spike Perturbation
von: Vigna, Hugo, et al.
Veröffentlicht: (2026)
von: Vigna, Hugo, et al.
Veröffentlicht: (2026)
Aligned explanations in neural networks
von: Lobet, Corentin, et al.
Veröffentlicht: (2026)
von: Lobet, Corentin, et al.
Veröffentlicht: (2026)
Equivariant neural networks and equivarification
von: Bao, Erkao, et al.
Veröffentlicht: (2019)
von: Bao, Erkao, et al.
Veröffentlicht: (2019)
On the explainability of max-plus neural networks
von: Enaieh, Ikhlas, et al.
Veröffentlicht: (2026)
von: Enaieh, Ikhlas, et al.
Veröffentlicht: (2026)
Characterization of topological structures in different neural network architectures
von: Świder, Paweł
Veröffentlicht: (2024)
von: Świder, Paweł
Veröffentlicht: (2024)
Are classical deep neural networks weakly adversarially robust?
von: Sun, Nuolin, et al.
Veröffentlicht: (2025)
von: Sun, Nuolin, et al.
Veröffentlicht: (2025)
Kinematic analysis of structural mechanics based on convolutional neural network
von: Zhang, Leye, et al.
Veröffentlicht: (2024)
von: Zhang, Leye, et al.
Veröffentlicht: (2024)
Spectral structural distortion reveals redundant neurons in neural networks
von: Wang, Yongyu
Veröffentlicht: (2026)
von: Wang, Yongyu
Veröffentlicht: (2026)
Multi-task convolutional neural network for image aesthetic assessment
von: Soydaner, Derya, et al.
Veröffentlicht: (2023)
von: Soydaner, Derya, et al.
Veröffentlicht: (2023)
Sparse components distinguish visual pathways & their alignment to neural networks
von: Marvi, Ammar I, et al.
Veröffentlicht: (2025)
von: Marvi, Ammar I, et al.
Veröffentlicht: (2025)
Training morphological neural networks with gradient descent: some theoretical insights
von: Blusseau, Samy
Veröffentlicht: (2024)
von: Blusseau, Samy
Veröffentlicht: (2024)
Neural network relief: a pruning algorithm based on neural activity
von: Dekhovich, Aleksandr, et al.
Veröffentlicht: (2021)
von: Dekhovich, Aleksandr, et al.
Veröffentlicht: (2021)
Reduced storage direct tensor ring decomposition for convolutional neural networks compression
von: Gabor, Mateusz, et al.
Veröffentlicht: (2024)
von: Gabor, Mateusz, et al.
Veröffentlicht: (2024)
EPTQ: Enhanced Post-Training Quantization via Hessian-guided Network-wise Optimization
von: Gordon, Ofir, et al.
Veröffentlicht: (2023)
von: Gordon, Ofir, et al.
Veröffentlicht: (2023)
MGVQ: Synergizing Multi-dimensional Sensitivity-Aware and Gradient-Hessian Fusion for Vector Quantization
von: Wang, Zhong, et al.
Veröffentlicht: (2026)
von: Wang, Zhong, et al.
Veröffentlicht: (2026)
InfoGNN: End-to-end deep learning on mesh via graph neural networks
von: Gao, Ling, et al.
Veröffentlicht: (2025)
von: Gao, Ling, et al.
Veröffentlicht: (2025)
Differentiable, Bit-shifting, and Scalable Quantization without training neural network from scratch
von: Badar, Zia
Veröffentlicht: (2025)
von: Badar, Zia
Veröffentlicht: (2025)
GD doesn't make the cut: Three ways that non-differentiability affects neural network training
von: Kumar, Siddharth Krishna
Veröffentlicht: (2024)
von: Kumar, Siddharth Krishna
Veröffentlicht: (2024)
Hand bone age estimation using divide and conquer strategy and lightweight convolutional neural networks
von: Kasani, Amin Ahmadi, et al.
Veröffentlicht: (2024)
von: Kasani, Amin Ahmadi, et al.
Veröffentlicht: (2024)
Real-time prediction of breast cancer sites using deformation-aware graph neural network
von: Lee, Kyunghyun, et al.
Veröffentlicht: (2025)
von: Lee, Kyunghyun, et al.
Veröffentlicht: (2025)
Distributed solar generation forecasting using attention-based deep neural networks for cloud movement prediction
von: Perera, Maneesha, et al.
Veröffentlicht: (2024)
von: Perera, Maneesha, et al.
Veröffentlicht: (2024)
Can neural networks count digit frequency?
von: Khandelwal, Padmaksh
Veröffentlicht: (2023)
von: Khandelwal, Padmaksh
Veröffentlicht: (2023)
Enhancing convolutional neural network generalizability via low-rank weight approximation
von: Gao, Chenyin, et al.
Veröffentlicht: (2022)
von: Gao, Chenyin, et al.
Veröffentlicht: (2022)
CAMP-HiVe: Cyclic Pair Merging based Efficient DNN Pruning with Hessian-Vector Approximation for Resource-Constrained Systems
von: Uddin, Mohammad Helal, et al.
Veröffentlicht: (2025)
von: Uddin, Mohammad Helal, et al.
Veröffentlicht: (2025)
Robust deep labeling of radiological emphysema subtypes using squeeze and excitation convolutional neural networks: The MESA Lung and SPIROMICS Studies
von: Wysoczanski, Artur, et al.
Veröffentlicht: (2024)
von: Wysoczanski, Artur, et al.
Veröffentlicht: (2024)
A foundation for exact binarized morphological neural networks
von: Aouad, Theodore, et al.
Veröffentlicht: (2024)
von: Aouad, Theodore, et al.
Veröffentlicht: (2024)
Wasserstein distributional adversarial training for deep neural networks
von: Bai, Xingjian, et al.
Veröffentlicht: (2025)
von: Bai, Xingjian, et al.
Veröffentlicht: (2025)
Technical Report: Activation Residual Hessian Quantization (ARHQ) for Low-Bit LLM Quantization
von: Wang, YiFeng, et al.
Veröffentlicht: (2026)
von: Wang, YiFeng, et al.
Veröffentlicht: (2026)
Improving deep neural network generalization and robustness to background bias via layer-wise relevance propagation optimization
von: Bassi, Pedro R. A. S., et al.
Veröffentlicht: (2022)
von: Bassi, Pedro R. A. S., et al.
Veröffentlicht: (2022)
Ähnliche Einträge
-
The effects of Hessian eigenvalue spectral density type on the applicability of Hessian analysis to generalization capability assessment of neural networks
von: Gabdullin, Nikita
Veröffentlicht: (2025) -
Exploring possible vector systems for faster training of neural networks with preconfigured latent spaces
von: Gabdullin, Nikita
Veröffentlicht: (2025) -
Using predefined vector systems to speed up neural network multimillion class classification
von: Gabdullin, Nikita, et al.
Veröffentlicht: (2026) -
Using predefined vector systems as latent space configuration for neural network supervised training on data with arbitrarily large number of classes
von: Gabdullin, Nikita
Veröffentlicht: (2025) -
Visualizing high-dimensional loss landscapes with Hessian directions
von: Böttcher, Lucas, et al.
Veröffentlicht: (2022)