Buchumschlag

A Model Zoo on Phase Transitions in Neural Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Schürholt, Konstantin, Meynent, Léo, Zhou, Yefan, Lu, Haiquan, Yang, Yaoqing, Borth, Damian
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Model Zoo of Vision Transformers
von: Falk, Damian, et al.
Veröffentlicht: (2025)

Structure Is Not Enough: Leveraging Behavior for Neural Network Weight Reconstruction
von: Meynent, Léo, et al.
Veröffentlicht: (2025)

Learning Model Representations Using Publicly Available Model Hubs
von: Falk, Damian, et al.
Veröffentlicht: (2025)

The Impact of Model Zoo Size and Composition on Weight Space Learning
von: Falk, Damian, et al.
Veröffentlicht: (2025)

MD tree: a model-diagnostic tree grown on loss landscape
von: Zhou, Yefan, et al.
Veröffentlicht: (2024)

Towards Scalable and Versatile Weight Space Learning
von: Schürholt, Konstantin, et al.
Veröffentlicht: (2024)

Hyper-Representations: Learning from Populations of Neural Networks
von: Schürholt, Konstantin
Veröffentlicht: (2024)

AlphaPruning: Using Heavy-Tailed Self Regularization Theory for Improved Layer-wise Pruning of Large Language Models
von: Lu, Haiquan, et al.
Veröffentlicht: (2024)

A Three-regime Model of Network Pruning
von: Zhou, Yefan, et al.
Veröffentlicht: (2023)

Sharpness-diversity tradeoff: improving flat ensembles with SharpBalance
von: Lu, Haiquan, et al.
Veröffentlicht: (2024)

Model Balancing Helps Low-data Training and Fine-tuning
von: Liu, Zihang, et al.
Veröffentlicht: (2024)

Sample Weight Estimation Using Meta-Updates for Online Continual Learning
von: Hemati, Hamed, et al.
Veröffentlicht: (2024)

Toward Dynamic Stability Assessment of Power Grid Topologies using Graph Neural Networks
von: Nauck, Christian, et al.
Veröffentlicht: (2022)

Privacy Preserving Diffusion Models for Mixed-Type Tabular Data Generation
von: Sattarov, Timur, et al.
Veröffentlicht: (2025)

FedTabDiff: Federated Learning of Diffusion Probabilistic Models for Synthetic Mixed-Type Tabular Data Generation
von: Sattarov, Timur, et al.
Veröffentlicht: (2024)

Federated Diffusion Modeling with Differential Privacy for Tabular Data Synthesis
von: Sattarov, Timur, et al.
Veröffentlicht: (2024)

Dirac--Bianconi Graph Neural Networks -- Enabling Non-Diffusive Long-Range Graph Predictions
von: Nauck, Christian, et al.
Veröffentlicht: (2024)

Diffusion-Scheduled Denoising Autoencoders for Anomaly Detection in Tabular Data
von: Sattarov, Timur, et al.
Veröffentlicht: (2025)

GraphGuard: Contrastive Self-Supervised Learning for Credit-Card Fraud Detection in Multi-Relational Dynamic Graphs
von: Reynisson, Kristófer, et al.
Veröffentlicht: (2024)

RL4RLA: Teaching ML to Discover Randomized Linear Algebra Algorithms Through Curriculum Design and Graph-Based Search
von: Xiong, Jinglong, et al.
Veröffentlicht: (2026)

Drag-and-Drop LLMs: Zero-Shot Prompt-to-Weights
von: Liang, Zhiyuan, et al.
Veröffentlicht: (2025)

Eigenspectrum Analysis of Neural Networks without Aspect Ratio Bias
von: Hu, Yuanzhe, et al.
Veröffentlicht: (2025)

Balancing Learning Rates Across Layers: Exact Two-Step Dynamics and Optimal Scaling in Linear Neural Networks
von: Pang, Tianyu, et al.
Veröffentlicht: (2026)

KCES: Training-Free Defense for Robust Graph Neural Networks via Kernel Complexity
von: Jia, Yaning, et al.
Veröffentlicht: (2025)

Recurrent Diffusion for Large-Scale Parameter Generation
von: Wang, Kai, et al.
Veröffentlicht: (2025)

Neural Symbolic Regression of Complex Network Dynamics
von: Qiu, Haiquan, et al.
Veröffentlicht: (2024)

From Spikes to Heavy Tails: Unveiling the Spectral Evolution of Neural Networks
von: Kothapalli, Vignesh, et al.
Veröffentlicht: (2024)

Spectral Alignment as Predictor of Loss Explosion in Neural Network Training
von: Qiu, Haiquan, et al.
Veröffentlicht: (2025)

Phase Transitions for Feature Learning in Neural Networks
von: Montanari, Andrea, et al.
Veröffentlicht: (2026)

Iterative Refinement Neural Operators are Learned Fixed-Point Solvers: A Principled Approach to Spectral Bias Mitigation
von: Liu, Xiaotian, et al.
Veröffentlicht: (2026)

New Evidence of the Two-Phase Learning Dynamics of Neural Networks
von: Zhou, Zhanpeng, et al.
Veröffentlicht: (2025)

Spectral Insights into Data-Oblivious Critical Layers in Large Language Models
von: Liu, Xuyuan, et al.
Veröffentlicht: (2025)

Approximation Capabilities of Feedforward Neural Networks with GELU Activations
von: Yakovlev, Konstantin, et al.
Veröffentlicht: (2025)

Energy Considerations for Large Pretrained Neural Networks
von: Mei, Leo, et al.
Veröffentlicht: (2025)

Unveiling Multi-regime Patterns in SciML: Distinct Failure Modes and Regime-specific Optimization
von: Wang, Yuxin, et al.
Veröffentlicht: (2026)

A Survey of Weight Space Learning: Understanding, Representation, and Generation
von: Han, Xiaolong, et al.
Veröffentlicht: (2026)

A Transition System Abstraction Framework for Neural Network Dynamical System Models
von: Yang, Yejiang, et al.
Veröffentlicht: (2024)

Phase Transitions in the Fluctuations of Functionals of Random Neural Networks
von: Di Lillo, Simmaco, et al.
Veröffentlicht: (2026)

Spectral Edge Dynamics: An Analytical-Empirical Study of Phase Transitions in Neural Network Training
von: Xu, Yongzhong
Veröffentlicht: (2026)

Convergence Analysis of Newton's Method for Neural Networks in the Overparameterized Limit
von: Riedl, Konstantin, et al.
Veröffentlicht: (2026)