Buchumschlag

Universal Sharpness Dynamics in Neural Network Training: Fixed Point Analysis, Edge of Stability, and Route to Chaos

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kalra, Dayal Singh, He, Tianyu, Barkeshli, Maissam
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Machine Learning Disordered Systems and Neural Networks Chaotic Dynamics
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Why Warmup the Learning Rate? Underlying Mechanisms and Improvements
von: Kalra, Dayal Singh, et al.
Veröffentlicht: (2024)

Quantifying Hyperparameter Transfer and the Importance of Embedding Layer Learning Rate
von: Kalra, Dayal Singh, et al.
Veröffentlicht: (2026)

Universal Frequency Correlations and Recurrence Statistics of Complex Impedance Matrices
von: Shaibe, Nadav, et al.
Veröffentlicht: (2025)

Dynamics and chaotic properties of the fully disordered Kuramoto model
von: León, Iván, et al.
Veröffentlicht: (2025)

Neural Ising Machines via Unrolling and Zeroth-Order Training
von: Reifenstein, Sam, et al.
Veröffentlicht: (2026)

Quantum Chaos in Random Ising Networks
von: Grabarits, András, et al.
Veröffentlicht: (2024)

When Can You Get Away with Low Memory Adam?
von: Kalra, Dayal Singh, et al.
Veröffentlicht: (2025)

(How) Can Transformers Predict Pseudo-Random Numbers?
von: Tao, Tao, et al.
Veröffentlicht: (2025)

Topologically protected synchronization in networks
von: Ostilli, Massimo
Veröffentlicht: (2025)

Sensitivity of the spectral form factor to short-range level statistics
von: Buijsman, Wouter, et al.
Veröffentlicht: (2020)

Superuniversal Statistics with Topological Origins for non-Hermitian Scattering Singularities
von: Shaibe, Nadav, et al.
Veröffentlicht: (2025)

Noise resilience of deterministic analog combinatorial optimization solvers
von: Gneiting, Clemens, et al.
Veröffentlicht: (2025)

Compact Dynamical Mean-Field Theory of Oscillator Networks
von: Reddy, Kanishka
Veröffentlicht: (2026)

Nonequilibrium Thermodynamics of Associative Memory Continuous-Time Recurrent Neural Networks
von: Aguilera, Miguel, et al.
Veröffentlicht: (2025)

Dynamical Signatures of Chaos to Integrability Crossover in $2\times 2$ Generalized Random Matrix Ensembles
von: Das, Adway Kumar, et al.
Veröffentlicht: (2020)

Experimental Detection of Dissipative Quantum Chaos
von: Wold, Kristian, et al.
Veröffentlicht: (2025)

Emergent oscillations and chaos in non-compliant microfluidic networks
von: Shao, Yanxuan, et al.
Veröffentlicht: (2025)

Equilibration of Non-interacting Photons and Quantum Signatures of Chaos
von: Bastidas, V. M., et al.
Veröffentlicht: (2023)

Beyond Nearest-neighbour Universality of Spectral Fluctuations in Quantum Chaotic and Complex Many-body Systems
von: Kundu, Debojyoti, et al.
Veröffentlicht: (2024)

Entropy Production Rate in Stochastically Time-evolving Asymmetric Networks
von: Pham, Tuan, et al.
Veröffentlicht: (2026)

Reservoir computing with logistic map
von: Arun, R., et al.
Veröffentlicht: (2024)

Hyperchaos and complex dynamical regimes in $N$-dimensional neuron lattices
von: Le, Brandon B., et al.
Veröffentlicht: (2025)

Nature of the Volcano Transition in the Fully Disordered Kuramoto Model
von: Prüser, Axel, et al.
Veröffentlicht: (2023)

Role of Coupling Asymmetry in the Fully Disordered Kuramoto Model
von: Prüser, Axel, et al.
Veröffentlicht: (2024)

Ruelle-Pollicott Decay of Out-of-Time-Order Correlators in Many-Body Systems
von: Duarte, Jerónimo, et al.
Veröffentlicht: (2025)

Thermalization of two- and three-dimensional classical lattices
von: Wang, Zhen, et al.
Veröffentlicht: (2020)

Noise induced extreme events in single Fitzhugh-Nagumo oscillator
von: Hariharan, S., et al.
Veröffentlicht: (2025)

Quantum-classical correspondence in quantum channels
von: Vijaywargia, Bidhi, et al.
Veröffentlicht: (2024)

Control of dynamical localization in atom-optics kicked rotor
von: Maurya, S. Sagar, et al.
Veröffentlicht: (2022)

Local and nonlocal stochastic control of quantum chaos: Measurement- and control-induced criticality
von: Pan, Haining, et al.
Veröffentlicht: (2024)

Suppression of chaos in a partially driven recurrent neural network
von: Takasu, Shotaro, et al.
Veröffentlicht: (2023)

Chaotic synchronization in adaptive networks of pulse-coupled oscillators
von: Mato, German, et al.
Veröffentlicht: (2024)

Finite-size scaling and dynamics in a two-dimensional lattice of identical oscillators with frustrated couplings
von: Juhász, Róbert, et al.
Veröffentlicht: (2024)

Assessment of spectral phases of non-Hermitian quantum systems through complex and singular values
von: Prasad, Mahaveer, et al.
Veröffentlicht: (2025)

Response Theory Identifies Reaction Coordinates and Explains Critical Phenomena in Noisy Interacting Systems
von: Zagli, Niccolò, et al.
Veröffentlicht: (2023)

Haldane graphene billiards versus relativistic neutrino billiards
von: Nguyen, Dung Xuan, et al.
Veröffentlicht: (2024)

A soluble model of a Non-Equilibrium Steady State: the van Kampen objection and other lessons
von: Kapustin, Anton
Veröffentlicht: (2024)

Interplay between two mechanisms of resistivity
von: Kapustin, Anton, et al.
Veröffentlicht: (2024)

Multistable Synaptic Plasticity induces Memory Effects and Cohabitation of Chimera and Bump States in Leaky Integrate-and-Fire Networks
von: Provata, Astero, et al.
Veröffentlicht: (2024)

Effects of nonlinearity on Anderson localization of surface gravity waves
von: Ricard, Guillaume, et al.
Veröffentlicht: (2024)