Buchumschlag

Deep Learning meets Nonparametric Regression: Are Weight-Decayed DNNs Locally Adaptive?

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Kaiqi, Wang, Yu-Xiang
Format:	Preprint
Veröffentlicht:	2022
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Nonparametric Classification on Low Dimensional Manifolds using Overparameterized Convolutional Residual Networks
von: Zhang, Zixuan, et al.
Veröffentlicht: (2023)

Transfer Learning for Nonparametric Regression: Non-asymptotic Minimax Analysis and Adaptive Procedure
von: Cai, T. Tony, et al.
Veröffentlicht: (2024)

Learning to Forget: Continual Learning with Adaptive Weight Decay
von: Ramesh, Aditya A., et al.
Veröffentlicht: (2026)

Model-Robust and Adaptive-Optimal Transfer Learning for Tackling Concept Shifts in Nonparametric Regression
von: Lin, Haotian, et al.
Veröffentlicht: (2025)

Minimax-optimal and Locally-adaptive Online Nonparametric Regression
von: Liautaud, Paul, et al.
Veröffentlicht: (2024)

Why Do We Need Weight Decay in Modern Deep Learning?
von: D'Angelo, Francesco, et al.
Veröffentlicht: (2023)

Minimax Adaptive Online Nonparametric Regression over Besov Spaces
von: Liautaud, Paul, et al.
Veröffentlicht: (2025)

Adversarial Robustness of Nonparametric Regression
von: Moradi, Parsa, et al.
Veröffentlicht: (2025)

Random Forest Weighted Local Fréchet Regression with Random Objects
von: Qiu, Rui, et al.
Veröffentlicht: (2022)

A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay
von: Zhao, JiangBo, et al.
Veröffentlicht: (2026)

Carbon Intensity-Aware Adaptive Inference of DNNs
von: Jung, Jiwan
Veröffentlicht: (2024)

Bayesian Nonparametrics: An Alternative to Deep Learning
von: Moraffah, Bahman
Veröffentlicht: (2024)

TruncQuant: Truncation-Ready Quantization for DNNs with Flexible Weight Bit Precision
von: Kim, Jinhee, et al.
Veröffentlicht: (2025)

Theoretical Analysis of Sparse Optimization with Reparameterization, Weight Decay, and Adaptive Learning Rate
von: Xu, Huangyu, et al.
Veröffentlicht: (2026)

DP-AdamW: Investigating Decoupled Weight Decay and Bias Correction in Private Deep Learning
von: Chooi, Jay, et al.
Veröffentlicht: (2025)

Understanding Robust Machine Learning for Nonparametric Regression with Heavy-Tailed Noise
von: Feng, Yunlong, et al.
Veröffentlicht: (2025)

Sample Complexity of Preference-Based Nonparametric Off-Policy Evaluation with Deep Networks
von: Li, Zihao, et al.
Veröffentlicht: (2023)

On the Effect of Regularization on Nonparametric Mean-Variance Regression
von: Wong-Toi, Eliot, et al.
Veröffentlicht: (2025)

Stochastic Gradient Descent for Nonparametric Additive Regression
von: Chen, Xin, et al.
Veröffentlicht: (2024)

Cautious Weight Decay
von: Chen, Lizhang, et al.
Veröffentlicht: (2025)

Heterogeneous Graph Contrastive Learning with Meta-path Contexts and Adaptively Weighted Negative Samples
von: Yu, Jianxiang, et al.
Veröffentlicht: (2022)

Correction of Decoupled Weight Decay
von: Chou, Jason Chuan-Chih
Veröffentlicht: (2025)

Nonparametric Distribution Regression Re-calibration
von: Jung, Ádám, et al.
Veröffentlicht: (2026)

On Hardening DNNs against Noisy Computations
von: Wang, Xiao, et al.
Veröffentlicht: (2025)

Nonparametric Regression Discontinuity Designs with Survival Outcomes
von: Schuessler, Maximilian, et al.
Veröffentlicht: (2026)

OUIDecay: Adaptive Layer-wise Weight Decay for CNNs Using Online Activation Patterns
von: Fernández-Hernández, Alberto, et al.
Veröffentlicht: (2026)

Nested Nonparametric Instrumental Variable Regression
von: Meza, Isaac, et al.
Veröffentlicht: (2021)

Conformal Prediction for Nonparametric Instrumental Regression
von: Kato, Masahiro
Veröffentlicht: (2026)

Nonparametric Instrumental Variable Regression with Observed Covariates
von: Shen, Zikai, et al.
Veröffentlicht: (2025)

Online Quantile Regression for Nonparametric Additive Models
von: Zhan, Haoran
Veröffentlicht: (2026)

Deep Learning Optimization Using Self-Adaptive Weighted Auxiliary Variables
von: Liu, Yaru, et al.
Veröffentlicht: (2025)

EM Approaches to Nonparametric Estimation for Mixture of Linear Regressions
von: Welbaum, Andrew, et al.
Veröffentlicht: (2025)

Nonparametric Instrumental Regression via Kernel Methods is Minimax Optimal
von: Meunier, Dimitri, et al.
Veröffentlicht: (2024)

Nonparametric Instrumental Variable Regression through Stochastic Approximate Gradients
von: Fonseca, Yuri, et al.
Veröffentlicht: (2024)

The Lifecycle of the Spectral Edge: From Gradient Learning to Weight-Decay Compression
von: Xu, Yongzhong
Veröffentlicht: (2026)

Locally Private Nonparametric Contextual Multi-armed Bandits
von: Ma, Yuheng, et al.
Veröffentlicht: (2025)

Facial Misrecognition Systems: Simple Weight Manipulations Force DNNs to Err Only on Specific Persons
von: Zehavi, Irad, et al.
Veröffentlicht: (2023)

OLR-WAA: Adaptive and Drift-Resilient Online Regression with Dynamic Weighted Averaging
von: Abu-Shaira, Mohammad, et al.
Veröffentlicht: (2025)

On the Power of Adaptive Weighted Aggregation in Heterogeneous Federated Learning and Beyond
von: Zeng, Dun, et al.
Veröffentlicht: (2023)

Efficient Reprogramming of Memristive Crossbars for DNNs: Weight Sorting and Bit Stucking
von: Farias, Matheus, et al.
Veröffentlicht: (2024)