Superposition unifies power-law training dynamics
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Chen, Zixin Jessie, Chen, Hao, Liu, Yizhou, Gore, Jeff |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Neural Thermodynamic Laws for Large Language Model Training
von: Liu, Ziming, et al.
Veröffentlicht: (2025)
von: Liu, Ziming, et al.
Veröffentlicht: (2025)
Physics of Skill Learning
von: Liu, Ziming, et al.
Veröffentlicht: (2025)
von: Liu, Ziming, et al.
Veröffentlicht: (2025)
Mesh-free sparse identification of nonlinear dynamics
von: Gao, Mars Liyao, et al.
Veröffentlicht: (2025)
von: Gao, Mars Liyao, et al.
Veröffentlicht: (2025)
PRL-Bench: A Comprehensive Benchmark Evaluating LLMs' Capabilities in Frontier Physics Research
von: Miao, Tingjia, et al.
Veröffentlicht: (2026)
von: Miao, Tingjia, et al.
Veröffentlicht: (2026)
Bayesian Inference with Deep Weakly Nonlinear Networks
von: Hanin, Boris, et al.
Veröffentlicht: (2024)
von: Hanin, Boris, et al.
Veröffentlicht: (2024)
A Neural Scaling Law from Lottery Ticket Ensembling
von: Liu, Ziming, et al.
Veröffentlicht: (2023)
von: Liu, Ziming, et al.
Veröffentlicht: (2023)
DeepOHeat-v1: Efficient Operator Learning for Fast and Trustworthy Thermal Simulation and Optimization in 3D-IC Design
von: Yu, Xinling, et al.
Veröffentlicht: (2025)
von: Yu, Xinling, et al.
Veröffentlicht: (2025)
When Attention Collapses: Residual Evidence Modeling for Compositional Inference
von: Houba, Niklas
Veröffentlicht: (2026)
von: Houba, Niklas
Veröffentlicht: (2026)
The most likely common cause
von: Hovhannisyan, A., et al.
Veröffentlicht: (2023)
von: Hovhannisyan, A., et al.
Veröffentlicht: (2023)
Optimal Symmetries in Binary Classification
von: Ngairangbam, Vishal S., et al.
Veröffentlicht: (2024)
von: Ngairangbam, Vishal S., et al.
Veröffentlicht: (2024)
Nonnegative matrix factorization and the principle of the common cause
von: Khalafyan, E., et al.
Veröffentlicht: (2025)
von: Khalafyan, E., et al.
Veröffentlicht: (2025)
Uncertainty Quantification with Bayesian Higher Order ReLU KANs
von: Giroux, James, et al.
Veröffentlicht: (2024)
von: Giroux, James, et al.
Veröffentlicht: (2024)
On the continuity of flows
von: Sha, Congzhou M
Veröffentlicht: (2025)
von: Sha, Congzhou M
Veröffentlicht: (2025)
A Systematic Literature Review of Spatio-Temporal Graph Neural Network Models for Time Series Forecasting and Classification
von: Corradini, Flavio, et al.
Veröffentlicht: (2024)
von: Corradini, Flavio, et al.
Veröffentlicht: (2024)
Toward Dynamic Stability Assessment of Power Grid Topologies using Graph Neural Networks
von: Nauck, Christian, et al.
Veröffentlicht: (2022)
von: Nauck, Christian, et al.
Veröffentlicht: (2022)
Understanding complex crowd dynamics with generative neural simulators
von: Minartz, Koen, et al.
Veröffentlicht: (2024)
von: Minartz, Koen, et al.
Veröffentlicht: (2024)
Predictive maintenance solution for industrial systems -- an unsupervised approach based on log periodic power law
von: Łobodziński, Bogdan
Veröffentlicht: (2024)
von: Łobodziński, Bogdan
Veröffentlicht: (2024)
Anomaly Detection in Soil Heavy Metal Contamination Using Unsupervised Learning for Environmental Risk Assessment
von: Adjokatse, Isaac Tettey, et al.
Veröffentlicht: (2026)
von: Adjokatse, Isaac Tettey, et al.
Veröffentlicht: (2026)
Practically Effective Adjustment Variable Selection in Causal Inference
von: Noda, Atsushi, et al.
Veröffentlicht: (2025)
von: Noda, Atsushi, et al.
Veröffentlicht: (2025)
Deep Learning Domain Adaptation to Understand Physico-Chemical Processes from Fluorescence Spectroscopy Small Datasets: Application to Ageing of Olive Oil
von: Michelucci, Umberto, et al.
Veröffentlicht: (2024)
von: Michelucci, Umberto, et al.
Veröffentlicht: (2024)
An information field theory approach to Bayesian state and parameter estimation in dynamical systems
von: Hao, Kairui, et al.
Veröffentlicht: (2023)
von: Hao, Kairui, et al.
Veröffentlicht: (2023)
Scalable Reinforcement Post-Training Beyond Static Human Prompts: Evolving Alignment via Asymmetric Self-Play
von: Ye, Ziyu, et al.
Veröffentlicht: (2024)
von: Ye, Ziyu, et al.
Veröffentlicht: (2024)
Global Tropical Cyclone Intensity Forecasting with Multi-modal Multi-scale Causal Autoregressive Model
von: Wang, Xinyu, et al.
Veröffentlicht: (2024)
von: Wang, Xinyu, et al.
Veröffentlicht: (2024)
KAN 2.0: Kolmogorov-Arnold Networks Meet Science
von: Liu, Ziming, et al.
Veröffentlicht: (2024)
von: Liu, Ziming, et al.
Veröffentlicht: (2024)
Smart Ensemble Learning Framework for Predicting Groundwater Heavy Metal Pollution
von: Ansah-Narh, T., et al.
Veröffentlicht: (2026)
von: Ansah-Narh, T., et al.
Veröffentlicht: (2026)
PRISM: Deriving a White-Box Transformer as a Signal-Noise Decomposition Operator via Maximum Coding Rate Reduction
von: Huang, Dongchen
Veröffentlicht: (2026)
von: Huang, Dongchen
Veröffentlicht: (2026)
PATHFINDER: Multi-objective discovery in structural and spectral spaces
von: Barakati, Kamyar, et al.
Veröffentlicht: (2026)
von: Barakati, Kamyar, et al.
Veröffentlicht: (2026)
PIED: Physics-Informed Experimental Design for Inverse Problems
von: Hemachandra, Apivich, et al.
Veröffentlicht: (2025)
von: Hemachandra, Apivich, et al.
Veröffentlicht: (2025)
PINNACLE: PINN Adaptive ColLocation and Experimental points selection
von: Lau, Gregory Kang Ruey, et al.
Veröffentlicht: (2024)
von: Lau, Gregory Kang Ruey, et al.
Veröffentlicht: (2024)
Adaptive Behavioral AI: Reinforcement Learning to Enhance Pharmacy Services
von: del Río, Ana Fernández, et al.
Veröffentlicht: (2024)
von: del Río, Ana Fernández, et al.
Veröffentlicht: (2024)
The role of data embedding in quantum autoencoders for improved anomaly detection
von: Araz, Jack Y., et al.
Veröffentlicht: (2024)
von: Araz, Jack Y., et al.
Veröffentlicht: (2024)
Free Energy Risk Metrics for Systemically Safe AI: Gatekeeping Multi-Agent Study
von: Walters, Michael, et al.
Veröffentlicht: (2025)
von: Walters, Michael, et al.
Veröffentlicht: (2025)
Reconstructing dynamics from sparse observations with no training on target system
von: Zhai, Zheng-Meng, et al.
Veröffentlicht: (2024)
von: Zhai, Zheng-Meng, et al.
Veröffentlicht: (2024)
Scientific machine learning in Hydrology: a unified perspective
von: Adombi, Adoubi Vincent De Paul
Veröffentlicht: (2025)
von: Adombi, Adoubi Vincent De Paul
Veröffentlicht: (2025)
Learning from the past: predicting critical transitions with machine learning trained on surrogates of historical data
von: Ma, Zhiqin, et al.
Veröffentlicht: (2024)
von: Ma, Zhiqin, et al.
Veröffentlicht: (2024)
Quantitative causality, causality-guided scientific discovery, and causal machine learning
von: Liang, X. San, et al.
Veröffentlicht: (2024)
von: Liang, X. San, et al.
Veröffentlicht: (2024)
Machine learning approach to detect dynamical states from recurrence measures
von: Thakur, Dheeraja, et al.
Veröffentlicht: (2024)
von: Thakur, Dheeraja, et al.
Veröffentlicht: (2024)
L$^2$M: Mutual Information Scaling Law for Long-Context Language Modeling
von: Chen, Zhuo, et al.
Veröffentlicht: (2025)
von: Chen, Zhuo, et al.
Veröffentlicht: (2025)
Beyond empirical models: Discovering new constitutive laws in solids with graph-based equation discovery
von: Xu, Hao, et al.
Veröffentlicht: (2025)
von: Xu, Hao, et al.
Veröffentlicht: (2025)
Developing Machine Learning-Based Watch-to-Warning Severe Weather Guidance from the Warn-on-Forecast System
von: Flora, Montgomery, et al.
Veröffentlicht: (2026)
von: Flora, Montgomery, et al.
Veröffentlicht: (2026)
Ähnliche Einträge
-
Neural Thermodynamic Laws for Large Language Model Training
von: Liu, Ziming, et al.
Veröffentlicht: (2025) -
Physics of Skill Learning
von: Liu, Ziming, et al.
Veröffentlicht: (2025) -
Mesh-free sparse identification of nonlinear dynamics
von: Gao, Mars Liyao, et al.
Veröffentlicht: (2025) -
PRL-Bench: A Comprehensive Benchmark Evaluating LLMs' Capabilities in Frontier Physics Research
von: Miao, Tingjia, et al.
Veröffentlicht: (2026) -
Bayesian Inference with Deep Weakly Nonlinear Networks
von: Hanin, Boris, et al.
Veröffentlicht: (2024)