Buchumschlag

DynamicGate MLP Conditional Computation via Learned Structural Dropout and Input Dependent Gating for Functional Plasticity

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Choi, Yong Il
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Learning Inference Concurrency in DynamicGate MLP Structural and Mathematical Justification
von: Choi, Yongil
Veröffentlicht: (2026)

Rethinking Gating Mechanism in Sparse MoE: Handling Arbitrary Modality Inputs with Confidence-Guided Gate
von: Zheng, Liangwei Nathan, et al.
Veröffentlicht: (2025)

Cross-Gate MLP with Protein Complex Invariant Embedding is A One-Shot Antibody Designer
von: Tan, Cheng, et al.
Veröffentlicht: (2023)

Smooth Gate Functions for Soft Advantage Policy Optimization
von: Denisov, Egor, et al.
Veröffentlicht: (2026)

Yet Unnoticed in LSTM: Binary Tree Based Input Reordering, Weight Regularization, and Gate Nonlinearization
von: Moattari, Mojtaba
Veröffentlicht: (2025)

Improving Dictionary Learning with Gated Sparse Autoencoders
von: Rajamanoharan, Senthooran, et al.
Veröffentlicht: (2024)

Minion Gated Recurrent Unit for Continual Learning
von: Zyarah, Abdullah M., et al.
Veröffentlicht: (2025)

Spectral Gating Networks
von: Zhang, Jusheng, et al.
Veröffentlicht: (2026)

Gated Adaptation for Continual Learning in Human Activity Recognition
von: Azghan, Reza Rahimi, et al.
Veröffentlicht: (2026)

Hierarchically Gated Experts for Efficient Online Continual Learning
von: Luong, Kevin, et al.
Veröffentlicht: (2024)

STABLE: Gated Continual Learning for Large Language Models
von: Hoy, William, et al.
Veröffentlicht: (2025)

When to Stop Reusing: Dynamic Gradient Gating for Sample-Efficient RLVR
von: Miao, Yuchun, et al.
Veröffentlicht: (2026)

Pareto Continual Learning: Preference-Conditioned Learning and Adaption for Dynamic Stability-Plasticity Trade-off
von: Lai, Song, et al.
Veröffentlicht: (2025)

When to ASK: Uncertainty-Gated Language Assistance for Reinforcement Learning
von: Monteiro, Juarez, et al.
Veröffentlicht: (2026)

DeepGate3: Towards Scalable Circuit Representation Learning
von: Shi, Zhengyuan, et al.
Veröffentlicht: (2024)

Activation by Interval-wise Dropout: A Simple Way to Prevent Neural Networks from Plasticity Loss
von: Park, Sangyeon, et al.
Veröffentlicht: (2025)

Gating is Weighting: Understanding Gated Linear Attention through In-context Learning
von: Li, Yingcong, et al.
Veröffentlicht: (2025)

KAN v.s. MLP for Offline Reinforcement Learning
von: Guo, Haihong, et al.
Veröffentlicht: (2024)

From MLP to NeoMLP: Leveraging Self-Attention for Neural Fields
von: Kofinas, Miltiadis, et al.
Veröffentlicht: (2024)

CADENT: Gated Hybrid Distillation for Sample-Efficient Transfer in Reinforcement Learning
von: Alinejad, Mahyar, et al.
Veröffentlicht: (2026)

Contrast-Enhanced Gating in GRUs for Robust Low-Data Sequence Learning
von: Subramanian, Barathi, et al.
Veröffentlicht: (2024)

Relevance-driven Input Dropout: an Explanation-guided Regularization Technique
von: Gururaj, Shreyas, et al.
Veröffentlicht: (2025)

Fitting Multilinear Polynomials for Logic Gate Networks
von: Kim, Youngsung
Veröffentlicht: (2026)

Uncertainty Estimation using Variance-Gated Distributions
von: Gillis, H. Martin, et al.
Veröffentlicht: (2025)

Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability
von: Liu, Yushen, et al.
Veröffentlicht: (2026)

Liger: Linearizing Large Language Models to Gated Recurrent Structures
von: Lan, Disen, et al.
Veröffentlicht: (2025)

Looking to Learn: Token-wise Dynamic Gating for Low-Resource Vision-Language Modelling
von: Ganescu, Bianca-Mihaela, et al.
Veröffentlicht: (2025)

Toward Efficient Influence Function: Dropout as a Compression Tool
von: Zhang, Yuchen, et al.
Veröffentlicht: (2025)

Robot-Gated Interactive Imitation Learning with Adaptive Intervention Mechanism
von: Cai, Haoyuan, et al.
Veröffentlicht: (2025)

FedSSG: Expectation-Gated and History-Aware Drift Alignment for Federated Learning
von: Zhou, Zhanting, et al.
Veröffentlicht: (2025)

AGaLiTe: Approximate Gated Linear Transformers for Online Reinforcement Learning
von: Pramanik, Subhojeet, et al.
Veröffentlicht: (2023)

CosineGate: Semantic Dynamic Routing via Cosine Incompatibility in Residual Networks
von: Thota, Yogeswar Reddy
Veröffentlicht: (2025)

Fate: Fast Edge Inference of Mixture-of-Experts Models via Cross-Layer Gate
von: Fang, Zhiyuan, et al.
Veröffentlicht: (2025)

Rethinking the shape convention of an MLP
von: Chen, Meng-Hsi, et al.
Veröffentlicht: (2025)

Uncertainty Gating for Cost-Aware Explainable Artificial Intelligence
von: Mikriukov, Georgii, et al.
Veröffentlicht: (2026)

Beyond Importance Sampling: Rejection-Gated Policy Optimization
von: Sun, Ziwu, et al.
Veröffentlicht: (2026)

Gate Recurrent Unit for Efficient Industrial Gas Identification
von: Wang, Ding
Veröffentlicht: (2024)

$λ$-GELU: Learning Gating Hardness for Controlled ReLU-ization in Deep Networks
von: Pérez-Corral, Cristian, et al.
Veröffentlicht: (2026)

Reinforcement Learning for Synchronised Flow Control in a Dual-Gate Resin Infusion System
von: Camacho-Sánchez, Miguel, et al.
Veröffentlicht: (2025)

ParaGate: Parasitic-Driven Domain Adaptation Transfer Learning for Netlist Performance Prediction
von: Sun, Bin, et al.
Veröffentlicht: (2025)