Buchumschlag

Linearly Constrained Weights: Reducing Activation Shift for Faster Training of Neural Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Kutsuna, Takuro
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Neural and Evolutionary Computing Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A Self-Ensemble Inspired Approach for Effective Training of Binary-Weight Spiking Neural Networks
von: Meng, Qingyan, et al.
Veröffentlicht: (2025)

Topology-Aware Activation Functions in Neural Networks
von: Snopov, Pavel, et al.
Veröffentlicht: (2025)

Time Shifts to Reduce the Size of Reservoir Computers
von: Carroll, Thomas L., et al.
Veröffentlicht: (2022)

Gated Recurrent Neural Networks with Weighted Time-Delay Feedback
von: Erichson, N. Benjamin, et al.
Veröffentlicht: (2022)

Activation Functions for "A Feedforward Unitary Equivariant Neural Network"
von: Ma, Pui-Wai
Veröffentlicht: (2024)

Dynamically Weighted Momentum with Adaptive Step Sizes for Efficient Deep Network Training
von: Wang, Zhifeng, et al.
Veröffentlicht: (2025)

Bullet Trains: Parallelizing Training of Temporally Precise Spiking Neural Networks
von: Morrill, Todd, et al.
Veröffentlicht: (2026)

Bio-Inspired Adaptive Neurons for Dynamic Weighting in Artificial Neural Networks
von: Islam, Ashhadul, et al.
Veröffentlicht: (2024)

Accelerating Linear Recurrent Neural Networks for the Edge with Unstructured Sparsity
von: Pierro, Alessandro, et al.
Veröffentlicht: (2025)

Equivariant Neural Networks for General Linear Symmetries on Lie Algebras
von: Kim, Chankyo, et al.
Veröffentlicht: (2025)

Sharpness Aware Surrogate Training for Spiking Neural Networks
von: Nicholson, Maximilian
Veröffentlicht: (2026)

Learnable Activation Functions in Physics-Informed Neural Networks for Solving Partial Differential Equations
von: Farea, Afrah, et al.
Veröffentlicht: (2024)

SQUAT: Stateful Quantization-Aware Training in Recurrent Spiking Neural Networks
von: Venkatesh, Sreyes, et al.
Veröffentlicht: (2024)

Training a General Spiking Neural Network with Improved Efficiency and Minimum Latency
von: Yao, Yunpeng, et al.
Veröffentlicht: (2024)

A Neural Network Training Method Based on Neuron Connection Coefficient Adjustments
von: Jiang, Kun
Veröffentlicht: (2025)

Biologically Plausible Training of Deep Neural Networks Using a Top-down Credit Assignment Network
von: Chen, Jian-Hui, et al.
Veröffentlicht: (2022)

Advancing Training Efficiency of Deep Spiking Neural Networks through Rate-based Backpropagation
von: Yu, Chengting, et al.
Veröffentlicht: (2024)

Spiking Brain Compression: Post-Training Second-order Compression for Spiking Neural Networks
von: Shi, Lianfeng, et al.
Veröffentlicht: (2025)

SAGRAD: A Program for Neural Network Training with Simulated Annealing and the Conjugate Gradient Method
von: Bernal, Javier, et al.
Veröffentlicht: (2025)

SpikingGamma: Surrogate-Gradient Free and Temporally Precise Online Training of Spiking Neural Networks with Smoothed Delays
von: Koopman, Roel, et al.
Veröffentlicht: (2026)

COMBHelper: A Neural Approach to Reduce Search Space for Graph Combinatorial Problems
von: Tian, Hao, et al.
Veröffentlicht: (2023)

Cyclic Neural Network
von: Yang, Liangwei, et al.
Veröffentlicht: (2024)

Airborne Neural Network
von: Ranjan, Paritosh, et al.
Veröffentlicht: (2025)

Expressivity of Neural Networks with Random Weights and Learned Biases
von: Williams, Ezekiel, et al.
Veröffentlicht: (2024)

Should Under-parameterized Student Networks Copy or Average Teacher Weights?
von: Şimşek, Berfin, et al.
Veröffentlicht: (2023)

Spiking Neural Networks with Random Network Architecture
von: Dai, Zihan, et al.
Veröffentlicht: (2025)

APALU: A Trainable, Adaptive Activation Function for Deep Learning Networks
von: Subramanian, Barathi, et al.
Veröffentlicht: (2024)

Understanding Vector-Valued Neural Networks and Their Relationship with Real and Hypercomplex-Valued Neural Networks
von: Valle, Marcos Eduardo
Veröffentlicht: (2023)

Input Invex Neural Network
von: Sapkota, Suman, et al.
Veröffentlicht: (2021)

Physics-Modeled Neural Networks
von: Felipe-Sosa, Raul, et al.
Veröffentlicht: (2026)

Set-based Neural Network Encoding Without Weight Tying
von: Andreis, Bruno, et al.
Veröffentlicht: (2023)

A Framework for Non-Linear Attention via Modern Hopfield Networks
von: Farooq, Ahmed
Veröffentlicht: (2025)

Multi-Objective Evolutionary Neural Architecture Search for Recurrent Neural Networks
von: Booysen, Reinhard, et al.
Veröffentlicht: (2024)

Extensional Properties of Recurrent Neural Networks
von: Dantsin, Evgeny, et al.
Veröffentlicht: (2024)

SNNAX -- Spiking Neural Networks in JAX
von: Lohoff, Jamie, et al.
Veröffentlicht: (2024)

ENN: A Neural Network with DCT Adaptive Activation Functions
von: Martinez-Gost, Marc, et al.
Veröffentlicht: (2023)

Self-Supervised Neural Architecture Search for Multimodal Deep Neural Networks
von: Suzuki, Shota, et al.
Veröffentlicht: (2025)

ChronoPlastic Spiking Neural Networks
von: Chaudhry, Sarim
Veröffentlicht: (2025)

Deep Pulse-Coupled Neural Networks
von: Yi, Zexiang, et al.
Veröffentlicht: (2023)

Multi Part Deployment of Neural Network
von: Ranjan, Paritosh, et al.
Veröffentlicht: (2025)