Buchumschlag

ZC-Swish: Stabilizing Deep BN-Free Networks for Edge and Micro-Batch Applications

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Basak, Suvinava
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

SwishReLU: A Unified Approach to Activation Functions for Enhanced Deep Neural Networks Performance
von: Rahman, Jamshaid Ul, et al.
Veröffentlicht: (2024)

Swish-T : Enhancing Swish Activation with Tanh Bias for Improved Neural Network Performance
von: Seo, Youngmin, et al.
Veröffentlicht: (2024)

BN-SCAFFOLD: controlling the drift of Batch Normalization statistics in Federated Learning
von: Quintana, Gonzalo Iñaki, et al.
Veröffentlicht: (2024)

Cognitive Fusion of ZC Sequences and Time-Frequency Images for Out-of-Distribution Detection of Drone Signals
von: Li, Jie, et al.
Veröffentlicht: (2026)

Learning Dynamics of Deep Linear Networks Beyond the Edge of Stability
von: Ghosh, Avrajit, et al.
Veröffentlicht: (2025)

Debiasing Mini-Batch Quadratics for Applications in Deep Learning
von: Tatzel, Lukas, et al.
Veröffentlicht: (2024)

SG-Blend: Learning an Interpolation Between Improved Swish and GELU for Robust Neural Representations
von: Sarkar, Gaurav, et al.
Veröffentlicht: (2025)

Batch Selection and Communication for Active Learning with Edge Labeling
von: Croisfelt, Victor, et al.
Veröffentlicht: (2023)

BADM: Batch ADMM for Deep Learning
von: Wang, Ouya, et al.
Veröffentlicht: (2024)

MimicNorm: Weight Mean and Last BN Layer Mimic the Dynamic of Batch Normalization
von: Fei, Wen, et al.
Veröffentlicht: (2020)

Mini-Batch Robustness Verification of Deep Neural Networks
von: Tzour-Shaday, Saar, et al.
Veröffentlicht: (2025)

Better Batch for Deep Probabilistic Time Series Forecasting
von: Zheng, Vincent Zhihao, et al.
Veröffentlicht: (2023)

The Origin of Edge of Stability
von: Litman, Elon
Veröffentlicht: (2026)

On the Stability of Neural Networks in Deep Learning
von: Delattre, Blaise
Veröffentlicht: (2025)

Edge of Stochastic Stability: Revisiting the Edge of Stability for SGD
von: Andreyev, Arseniy, et al.
Veröffentlicht: (2024)

Batch Normalization for Neural Networks on Complex Domains
von: Nguyen, Xuan Son, et al.
Veröffentlicht: (2026)

Impact of Batch Normalization on Convolutional Network Representations
von: Potgieter, Hermanus L., et al.
Veröffentlicht: (2025)

The N-Grammys: Accelerating Autoregressive Inference with Learning-Free Batched Speculation
von: Stewart, Lawrence, et al.
Veröffentlicht: (2024)

Batch Normalization-Free Fully Integer Quantized Neural Networks via Progressive Tandem Learning
von: Sun, Pengfei, et al.
Veröffentlicht: (2025)

Does Sparse Connectivity Improve Generalization? Convolutional Networks Below the Edge of Stability
von: Liang, Tongtong, et al.
Veröffentlicht: (2026)

Making Batch Normalization Great in Federated Deep Learning
von: Zhong, Jike, et al.
Veröffentlicht: (2023)

Product-Stability: Provable Convergence for Gradient Descent on the Edge of Stability
von: Gan, Eric
Veröffentlicht: (2026)

Adaptive Gradient Methods at the Edge of Stability
von: Cohen, Jeremy M., et al.
Veröffentlicht: (2022)

Multi-Label Phase Diagram Prediction in Complex Alloys via Physics-Informed Graph Attention Networks
von: Park, Eunjeong, et al.
Veröffentlicht: (2026)

Towards Batch-to-Streaming Deep Reinforcement Learning for Continuous Control
von: De Monte, Riccardo, et al.
Veröffentlicht: (2026)

Optimizer Dynamics at the Edge of Stability with Differential Privacy
von: Hussain, Ayana, et al.
Veröffentlicht: (2025)

CrossQ: Batch Normalization in Deep Reinforcement Learning for Greater Sample Efficiency and Simplicity
von: Bhatt, Aditya, et al.
Veröffentlicht: (2019)

High-dimensional Statistics Applications to Batch Effects in Metabolomics
von: Guo, Zhendong
Veröffentlicht: (2024)

Edge Intelligence Optimization for Large Language Model Inference with Batching and Quantization
von: Zhang, Xinyuan, et al.
Veröffentlicht: (2024)

Robust Batched Bandits
von: Guo, Yunwen, et al.
Veröffentlicht: (2025)

Supervised Batch Normalization
von: Faye, Bilal, et al.
Veröffentlicht: (2024)

Free-Knots Kolmogorov-Arnold Network: On the Analysis of Spline Knots and Advancing Stability
von: Zheng, Liangwewi Nathan, et al.
Veröffentlicht: (2025)

Deep Policy Gradient Methods Without Batch Updates, Target Networks, or Replay Buffers
von: Vasan, Gautham, et al.
Veröffentlicht: (2024)

Automated Batch Distillation Process Simulation for a Large Hybrid Dataset for Deep Anomaly Detection
von: Werner, Jennifer, et al.
Veröffentlicht: (2026)

Investigating Batch Inference in a Sequential Monte Carlo Framework for Neural Networks
von: Millard, Andrew, et al.
Veröffentlicht: (2026)

Training on the Edge of Stability Is Caused by Layerwise Jacobian Alignment
von: Lowell, Mark, et al.
Veröffentlicht: (2024)

A Minimalist Example of Edge-of-Stability and Progressive Sharpening
von: Liu, Liming, et al.
Veröffentlicht: (2025)

Understanding the Evolution of the Neural Tangent Kernel at the Edge of Stability
von: Jiang, Kaiqi, et al.
Veröffentlicht: (2025)

Generalization Below the Edge of Stability: The Role of Data Geometry
von: Liang, Tongtong, et al.
Veröffentlicht: (2025)

Variational Learning Finds Flatter Solutions at the Edge of Stability
von: Ghosh, Avrajit, et al.
Veröffentlicht: (2025)