Buchumschlag

Renormalizable Spectral-Shell Dynamics as the Origin of Neural Scaling Laws

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Zhang, Yizhou
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Generalized Spectral Framework to Expain Neural Scaling and Compression Dynamics
von: Zhang, Yizhou
Veröffentlicht: (2025)

When Does Learning Renormalize? Sufficient Conditions for Power Law Spectral Dynamics
von: Zhang, Yizhou
Veröffentlicht: (2025)

Data Curation Through the Lens of Spectral Dynamics: Static Limits, Dynamic Acceleration, and Practical Oracles
von: Zhang, Yizhou, et al.
Veröffentlicht: (2025)

Theoretical and Empirical Insights into the Origins of Degree Bias in Graph Neural Networks
von: Subramonian, Arjun, et al.
Veröffentlicht: (2024)

Configuration-to-Performance Scaling Law with Neural Ansatz
von: Zhang, Huaqing, et al.
Veröffentlicht: (2026)

Neural Neural Scaling Laws
von: Hu, Michael Y., et al.
Veröffentlicht: (2026)

A Dynamical Model of Neural Scaling Laws
von: Bordelon, Blake, et al.
Veröffentlicht: (2024)

On the Invariance and Generality of Neural Scaling Laws
von: Han, Xing, et al.
Veröffentlicht: (2026)

Scaling Laws and Spectra of Shallow Neural Networks in the Feature Learning Regime
von: Defilippis, Leonardo, et al.
Veröffentlicht: (2025)

Same Architecture, Different Capacity: Optimizer-Induced Spectral Scaling Laws
von: Jha, Nandan Kumar, et al.
Veröffentlicht: (2026)

Unified Neural Network Scaling Laws and Scale-time Equivalence
von: Boopathy, Akhilan, et al.
Veröffentlicht: (2024)

Breaking Neural Network Scaling Laws with Modularity
von: Boopathy, Akhilan, et al.
Veröffentlicht: (2024)

Superposition Yields Robust Neural Scaling
von: Liu, Yizhou, et al.
Veröffentlicht: (2025)

Towards Neural Scaling Laws on Graphs
von: Liu, Jingzhe, et al.
Veröffentlicht: (2024)

On the Optimizer Dependence of Neural Scaling Laws
von: Ramani, Vansh, et al.
Veröffentlicht: (2026)

Neural Thermodynamic Laws for Large Language Model Training
von: Liu, Ziming, et al.
Veröffentlicht: (2025)

Analyzing Neural Scaling Laws in Two-Layer Networks with Power-Law Data Spectra
von: Worschech, Roman, et al.
Veröffentlicht: (2024)

Explaining Neural Scaling Laws
von: Bahri, Yasaman, et al.
Veröffentlicht: (2021)

Spectral Reach: Understanding Neural Scaling as Progress into the Spectral Tail
von: Nikolaou, Konstantin, et al.
Veröffentlicht: (2026)

Neural Scaling Laws for Deep Regression
von: Cadez, Tilen, et al.
Veröffentlicht: (2025)

Scaling Laws for Neural Material Models
von: Trikha, Akshay, et al.
Veröffentlicht: (2025)

AlphaZero Neural Scaling and Zipf's Law: a Tale of Board Games and Power Laws
von: Neumann, Oren, et al.
Veröffentlicht: (2024)

Complexity Scaling Laws for Neural Models using Combinatorial Optimization
von: Weissman, Lowell, et al.
Veröffentlicht: (2025)

On Neural Scaling Laws for Weather Emulation through Continual Training
von: Subramanian, Shashank, et al.
Veröffentlicht: (2026)

Information-Theoretic Foundations for Neural Scaling Laws
von: Jeon, Hong Jun, et al.
Veröffentlicht: (2024)

SlepNet: Spectral Subgraph Representation Learning for Neural Dynamics
von: Viswanath, Siddharth, et al.
Veröffentlicht: (2025)

Adaptive Data Optimization: Dynamic Sample Selection with Scaling Laws
von: Jiang, Yiding, et al.
Veröffentlicht: (2024)

Neural Scaling Laws of Deep ReLU and Deep Operator Network: A Theoretical Study
von: Liu, Hao, et al.
Veröffentlicht: (2024)

Do Neural Scaling Laws Exist on Graph Self-Supervised Learning?
von: Ma, Qian, et al.
Veröffentlicht: (2024)

Do Contemporary Causal Inference Models Capture Real-World Heterogeneity? Findings from a Large-Scale Benchmark
von: Yu, Haining, et al.
Veröffentlicht: (2024)

Neural Scaling Laws Rooted in the Data Distribution
von: Brill, Ari
Veröffentlicht: (2024)

Determinant Estimation under Memory Constraints and Neural Scaling Laws
von: Ameli, Siavash, et al.
Veröffentlicht: (2025)

Towards Multi-Fidelity Scaling Laws of Neural Surrogates in CFD
von: Setinek, Paul, et al.
Veröffentlicht: (2025)

Scaling Laws of Graph Neural Networks for Atomistic Materials Modeling
von: Li, Chaojian, et al.
Veröffentlicht: (2025)

Optimal Control Operator Perspective and a Neural Adaptive Spectral Method
von: Feng, Mingquan, et al.
Veröffentlicht: (2024)

Deriving Neural Scaling Laws from the statistics of natural language
von: Cagnetta, Francesco, et al.
Veröffentlicht: (2026)

Towards Neural Scaling Laws for Time Series Foundation Models
von: Yao, Qingren, et al.
Veröffentlicht: (2024)

Scaling Laws are Redundancy Laws
von: Bi, Yuda, et al.
Veröffentlicht: (2025)

Incremental Spatial and Spectral Learning of Neural Operators for Solving Large-Scale PDEs
von: George, Robert Joseph, et al.
Veröffentlicht: (2022)

Functional Scaling Laws in Kernel Regression: Loss Dynamics and Learning Rate Schedules
von: Li, Binghui, et al.
Veröffentlicht: (2025)