Buchumschlag

Activation by Interval-wise Dropout: A Simple Way to Prevent Neural Networks from Plasticity Loss

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Park, Sangyeon, Han, Isaac, Oh, Seungwon, Kim, Kyung-Joong
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

FIRE: Frobenius-Isometry Reinitialization for Balancing the Stability-Plasticity Tradeoff
von: Han, Isaac, et al.
Veröffentlicht: (2026)

Recovering Plasticity of Neural Networks via Soft Weight Rescaling
von: Oh, Seungwon, et al.
Veröffentlicht: (2025)

Prism: Spectral Parameter Sharing for Multi-Agent Reinforcement Learning
von: Kim, Kyungbeom, et al.
Veröffentlicht: (2026)

DASH: Warm-Starting Neural Network Training in Stationary Settings without Loss of Plasticity
von: Shin, Baekrok, et al.
Veröffentlicht: (2024)

Neural Network Plasticity and Loss Sharpness
von: Koster, Max, et al.
Veröffentlicht: (2024)

Tracing the Path to Grokking: Embeddings, Dropout, and Network Activation
von: Salah, Ahmed, et al.
Veröffentlicht: (2025)

Neural Variational Dropout Processes
von: Jeon, Insu, et al.
Veröffentlicht: (2025)

Stable Neural Stochastic Differential Equations in Analyzing Irregular Time Series Data
von: Oh, YongKyung, et al.
Veröffentlicht: (2024)

A Simple Baseline for Stable and Plastic Neural Networks
von: Künzel, Étienne, et al.
Veröffentlicht: (2025)

A Characterization Theorem for Equivariant Networks with Point-wise Activations
von: Pacini, Marco, et al.
Veröffentlicht: (2024)

TANDEM: Temporal Attention-guided Neural Differential Equations for Missingness in Time Series Classification
von: Oh, YongKyung, et al.
Veröffentlicht: (2025)

NeuFair: Neural Network Fairness Repair with Dropout
von: Dasu, Vishnu Asutosh, et al.
Veröffentlicht: (2024)

Position: State-of-the-Art Claims Require State-of-the-Art Evidence
von: Oh, YongKyung
Veröffentlicht: (2026)

Localising Dropout Variance in Twin Networks
von: Doyle, Cooper
Veröffentlicht: (2025)

CP Loss: Channel-wise Perceptual Loss for Time Series Forecasting
von: Zha, Yaohua, et al.
Veröffentlicht: (2026)

Multiverse: Language-Conditioned Multi-Game Level Blending via Shared Representation
von: Baek, In-Chang, et al.
Veröffentlicht: (2026)

DeltaDQ: Ultra-High Delta Compression for Fine-Tuned LLMs via Group-wise Dropout and Separate Quantization
von: Jiang, Yanfeng, et al.
Veröffentlicht: (2024)

Locally Convex Global Loss Network for Decision-Focused Learning
von: Jeon, Haeun, et al.
Veröffentlicht: (2024)

DynamicGate MLP Conditional Computation via Learned Structural Dropout and Input Dependent Gating for Functional Plasticity
von: Choi, Yong Il
Veröffentlicht: (2026)

MID-L: Matrix-Interpolated Dropout Layer with Layer-wise Neuron Selection
von: Shaeri, Pouya, et al.
Veröffentlicht: (2025)

Multi-Objective Instruction-Aware Representation Learning in Procedural Content Generation RL
von: Kim, Sung-Hyun, et al.
Veröffentlicht: (2025)

Introducing Interval Neural Networks for Uncertainty-Aware System Identification
von: Ferah, Mehmet Ali, et al.
Veröffentlicht: (2025)

Comprehensive Review of Neural Differential Equations for Time Series Analysis
von: Oh, YongKyung, et al.
Veröffentlicht: (2025)

FlowPath: Learning Data-Driven Manifolds with Invertible Flows for Robust Irregularly-sampled Time Series Classification
von: Oh, YongKyung, et al.
Veröffentlicht: (2025)

DualDynamics: Synergizing Implicit and Explicit Methods for Robust Irregular Time Series Analysis
von: Oh, YongKyung, et al.
Veröffentlicht: (2024)

Alternating Approach-Putt Models for Multi-Stage Speech Enhancement
von: Jeong, Iksoon, et al.
Veröffentlicht: (2025)

Tube Loss: A Novel Approach for Prediction Interval Estimation
von: Anand, Pritam, et al.
Veröffentlicht: (2024)

Addressing Loss of Plasticity and Catastrophic Forgetting in Continual Learning
von: Elsayed, Mohamed, et al.
Veröffentlicht: (2024)

Plasticity Loss in Deep Reinforcement Learning: A Survey
von: Klein, Timo, et al.
Veröffentlicht: (2024)

DiffusionBlocks: Block-wise Neural Network Training via Diffusion Interpretation
von: Shing, Makoto, et al.
Veröffentlicht: (2025)

Scale-Dropout: Estimating Uncertainty in Deep Neural Networks Using Stochastic Scale
von: Ahmed, Soyed Tuhin, et al.
Veröffentlicht: (2023)

Multi-View Contrastive Learning for Robust Domain Adaptation in Medical Time Series Analysis
von: Oh, YongKyung, et al.
Veröffentlicht: (2025)

Continuum Dropout for Neural Differential Equations
von: Lee, Jonghun, et al.
Veröffentlicht: (2025)

Do Neural Networks Lose Plasticity in a Gradually Changing World?
von: Liu, Tianhui, et al.
Veröffentlicht: (2026)

Simple and Efficient Heterogeneous Temporal Graph Neural Network
von: Wang, Yili, et al.
Veröffentlicht: (2025)

MahaVar: OOD Detection via Class-wise Mahalanobis Distance Variance under Neural Collapse
von: Kim, Donghwan, et al.
Veröffentlicht: (2026)

Learning from Historical Activations in Graph Neural Networks
von: Galron, Yaniv, et al.
Veröffentlicht: (2026)

Barriers for Learning in an Evolving World: Mathematical Understanding of Loss of Plasticity
von: Joudaki, Amir, et al.
Veröffentlicht: (2025)

Mitigating Plasticity Loss in Continual Reinforcement Learning by Reducing Churn
von: Tang, Hongyao, et al.
Veröffentlicht: (2025)

A Study of Plasticity Loss in On-Policy Deep Reinforcement Learning
von: Juliani, Arthur, et al.
Veröffentlicht: (2024)