Quantifying Emergence in Neural Networks: Insights from Pruning and Training Dynamics
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | AlShinaifi, Faisal, Almoaigel, Zeyad, Li, Johnny Jingze, Kuleib, Abdulla, Silva, Gabriel A. |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Advancing Neural Network Performance through Emergence-Promoting Initialization Scheme
par: Li, Johnny Jingze, et autres
Publié: (2024)
par: Li, Johnny Jingze, et autres
Publié: (2024)
Concurrent Training and Layer Pruning of Deep Neural Networks
par: Guenter, Valentin Frank Ingmar, et autres
Publié: (2024)
par: Guenter, Valentin Frank Ingmar, et autres
Publié: (2024)
LNPT: Label-free Network Pruning and Training
par: Xiao, Jinying, et autres
Publié: (2024)
par: Xiao, Jinying, et autres
Publié: (2024)
Post-Training Neural Network Pruning using Graph Curvature
par: Tan, Shuhang, et autres
Publié: (2026)
par: Tan, Shuhang, et autres
Publié: (2026)
Training-Free Restoration of Pruned Neural Networks
par: Lee, Keonho, et autres
Publié: (2025)
par: Lee, Keonho, et autres
Publié: (2025)
A Training Framework for Optimal and Stable Training of Polynomial Neural Networks
par: Hossain, Forsad Al, et autres
Publié: (2025)
par: Hossain, Forsad Al, et autres
Publié: (2025)
Exchangeability in Neural Network and its Application to Dynamic Pruning
par: Pu, et autres
Publié: (2025)
par: Pu, et autres
Publié: (2025)
Spectral Pruning for Recurrent Neural Networks
par: Furuya, Takashi, et autres
Publié: (2021)
par: Furuya, Takashi, et autres
Publié: (2021)
A Categorical Framework for Quantifying Emergent Effects in Network Topology
par: Li, Johnny Jingze, et autres
Publié: (2023)
par: Li, Johnny Jingze, et autres
Publié: (2023)
Computing Linear Regions in Neural Networks with Skip Connections
par: Joyce, Johnny, et autres
Publié: (2025)
par: Joyce, Johnny, et autres
Publié: (2025)
Leader Reward for POMO-Based Neural Combinatorial Optimization
par: Wang, Chaoyang, et autres
Publié: (2024)
par: Wang, Chaoyang, et autres
Publié: (2024)
$ε$-rank and the Staircase Phenomenon: New Insights into Neural Network Training Dynamics
par: Yang, Jiang, et autres
Publié: (2024)
par: Yang, Jiang, et autres
Publié: (2024)
Explore and Establish Synergistic Effects Between Weight Pruning and Coreset Selection in Neural Network Training
par: Wan, Weilin, et autres
Publié: (2025)
par: Wan, Weilin, et autres
Publié: (2025)
Quantifying Out-of-Training Uncertainty of Neural-Network based Turbulence Closures
par: Grogan, Cody, et autres
Publié: (2025)
par: Grogan, Cody, et autres
Publié: (2025)
PruneSymNet: A Symbolic Neural Network and Pruning Algorithm for Symbolic Regression
par: Wu, Min, et autres
Publié: (2024)
par: Wu, Min, et autres
Publié: (2024)
Pruning and Quantization Impact on Graph Neural Networks
par: Khedri, Khatoon, et autres
Publié: (2025)
par: Khedri, Khatoon, et autres
Publié: (2025)
Mutual Information Preserving Neural Network Pruning
par: Westphal, Charles, et autres
Publié: (2024)
par: Westphal, Charles, et autres
Publié: (2024)
Global Prediction of COVID-19 Variant Emergence Using Dynamics-Informed Graph Neural Networks
par: Aawar, Majd Al, et autres
Publié: (2024)
par: Aawar, Majd Al, et autres
Publié: (2024)
Dyna-Style Reinforcement Learning Modeling and Control of Non-linear Dynamics
par: Abdelsalam, Karim, et autres
Publié: (2025)
par: Abdelsalam, Karim, et autres
Publié: (2025)
Shapley Pruning for Neural Network Compression
par: Adamczewski, Kamil, et autres
Publié: (2024)
par: Adamczewski, Kamil, et autres
Publié: (2024)
Quantifying Training Difficulty and Accelerating Convergence in Neural Network-Based PDE Solvers
par: Chen, Chuqi, et autres
Publié: (2024)
par: Chen, Chuqi, et autres
Publié: (2024)
Robust Neural Pruning with Gradient Sampling Optimization for Residual Neural Networks
par: Yun, Juyoung
Publié: (2023)
par: Yun, Juyoung
Publié: (2023)
Neural-Symbolic Message Passing with Dynamic Pruning
par: Zhang, Chongzhi, et autres
Publié: (2025)
par: Zhang, Chongzhi, et autres
Publié: (2025)
How Graph Neural Networks Learn: Lessons from Training Dynamics
par: Yang, Chenxiao, et autres
Publié: (2023)
par: Yang, Chenxiao, et autres
Publié: (2023)
Max-Affine Spline Insights Into Deep Network Pruning
par: You, Haoran, et autres
Publié: (2021)
par: You, Haoran, et autres
Publié: (2021)
Adaptive Class Emergence Training: Enhancing Neural Network Stability and Generalization through Progressive Target Evolution
par: Dabounou, Jaouad
Publié: (2024)
par: Dabounou, Jaouad
Publié: (2024)
Dynamic Entropy Tuning in Reinforcement Learning Low-Level Quadcopter Control: Stochasticity vs Determinism
par: Mahran, Youssef, et autres
Publié: (2025)
par: Mahran, Youssef, et autres
Publié: (2025)
A Dynamical Systems-Inspired Pruning Strategy for Addressing Oversmoothing in Graph Neural Networks
par: Chakraborty, Biswadeep, et autres
Publié: (2024)
par: Chakraborty, Biswadeep, et autres
Publié: (2024)
Exploring Vision Neural Network Pruning via Screening Methodology
par: Wang, Mingyuan, et autres
Publié: (2025)
par: Wang, Mingyuan, et autres
Publié: (2025)
FALCON: FLOP-Aware Combinatorial Optimization for Neural Network Pruning
par: Meng, Xiang, et autres
Publié: (2024)
par: Meng, Xiang, et autres
Publié: (2024)
Dynamic Rank Adjustment for Accurate and Efficient Neural Network Training
par: Shin, Hyuntak, et autres
Publié: (2025)
par: Shin, Hyuntak, et autres
Publié: (2025)
Emergence of Superposition: Unveiling the Training Dynamics of Chain of Continuous Thought
par: Zhu, Hanlin, et autres
Publié: (2025)
par: Zhu, Hanlin, et autres
Publié: (2025)
Automatic Joint Structured Pruning and Quantization for Efficient Neural Network Training and Compression
par: Qu, Xiaoyi, et autres
Publié: (2025)
par: Qu, Xiaoyi, et autres
Publié: (2025)
HOG-CNN: Integrating Histogram of Oriented Gradients with Convolutional Neural Networks for Retinal Image Classification
par: Ahmed, Faisal
Publié: (2025)
par: Ahmed, Faisal
Publié: (2025)
Loss Spike in Training Neural Networks
par: Li, Xiaolong, et autres
Publié: (2023)
par: Li, Xiaolong, et autres
Publié: (2023)
Pruning Deep Convolutional Neural Network Using Conditional Mutual Information
par: Vu-Van, Tien, et autres
Publié: (2024)
par: Vu-Van, Tien, et autres
Publié: (2024)
BINGO: A Novel Pruning Mechanism to Reduce the Size of Neural Networks
par: Panangat, Aditya
Publié: (2025)
par: Panangat, Aditya
Publié: (2025)
EntryPrune: Neural Network Feature Selection using First Impressions
par: Zimmer, Felix, et autres
Publié: (2024)
par: Zimmer, Felix, et autres
Publié: (2024)
Adaptive Structured Pruning of Convolutional Neural Networks for Time Series Classification
par: Abdullayev, Javidan, et autres
Publié: (2026)
par: Abdullayev, Javidan, et autres
Publié: (2026)
Learning from Complexity: Exploring Dynamic Sample Pruning of Spatio-Temporal Training
par: Chen, Wei, et autres
Publié: (2026)
par: Chen, Wei, et autres
Publié: (2026)
Documents similaires
-
Advancing Neural Network Performance through Emergence-Promoting Initialization Scheme
par: Li, Johnny Jingze, et autres
Publié: (2024) -
Concurrent Training and Layer Pruning of Deep Neural Networks
par: Guenter, Valentin Frank Ingmar, et autres
Publié: (2024) -
LNPT: Label-free Network Pruning and Training
par: Xiao, Jinying, et autres
Publié: (2024) -
Post-Training Neural Network Pruning using Graph Curvature
par: Tan, Shuhang, et autres
Publié: (2026) -
Training-Free Restoration of Pruned Neural Networks
par: Lee, Keonho, et autres
Publié: (2025)