Buchumschlag

Learning Curves of Stochastic Gradient Descent in Kernel Regression

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Haihan, Lin, Weicheng, Liu, Yuanshi, Fang, Cong
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Scaling Law for Stochastic Gradient Descent in Quadratically Parameterized Linear Regression
von: Ding, Shihong, et al.
Veröffentlicht: (2025)

Optimal Algorithms in Linear Regression under Covariate Shift: On the Importance of Precondition
von: Liu, Yuanshi, et al.
Veröffentlicht: (2025)

The Optimality of (Accelerated) SGD for High-Dimensional Quadratic Optimization
von: Zhang, Haihan, et al.
Veröffentlicht: (2024)

AdaPM: a Partial Momentum Algorithm for LLM Training
von: Zhang, Yimu, et al.
Veröffentlicht: (2025)

Stochastic Gradient Descent for Nonparametric Additive Regression
von: Chen, Xin, et al.
Veröffentlicht: (2024)

What Makes a Strong Model? A Unified Spectral Analysis of Knowledge Transfer over High-dimensional Linear Regression
von: Wu, Wendao, et al.
Veröffentlicht: (2026)

Learning Operators by Regularized Stochastic Gradient Descent with Operator-valued Kernels
von: Yang, Jia-Qi, et al.
Veröffentlicht: (2025)

Exponential Convergence of (Stochastic) Gradient Descent for Separable Logistic Regression
von: Kale, Sacchit, et al.
Veröffentlicht: (2026)

Truncated Kernel Stochastic Gradient Descent on Spheres
von: Bai, Jinhui, et al.
Veröffentlicht: (2024)

Stochastic Smoothed Gradient Descent Ascent for Federated Minimax Optimization
von: Shen, Wei, et al.
Veröffentlicht: (2023)

Fast Robust Kernel Regression through Sign Gradient Descent with Early Stopping
von: Allerbo, Oskar
Veröffentlicht: (2023)

A Bootstrap Perspective on Stochastic Gradient Descent
von: Lan, Hongjian, et al.
Veröffentlicht: (2025)

Personalized Federated Learning with Exact Stochastic Gradient Descent
von: Nikoloutsopoulos, Sotirios, et al.
Veröffentlicht: (2022)

Towards Learning Stochastic Population Models by Gradient Descent
von: Kreikemeyer, Justin N., et al.
Veröffentlicht: (2024)

A Comprehensive Analysis on the Learning Curve in Kernel Ridge Regression
von: Cheng, Tin Sum, et al.
Veröffentlicht: (2024)

Stochastic Adaptive Gradient Descent Without Descent
von: Aujol, Jean-François, et al.
Veröffentlicht: (2025)

Beyond Cross-Validation: Adaptive Parameter Selection for Kernel-Based Gradient Descents
von: Liu, Xiaotong, et al.
Veröffentlicht: (2026)

On the Generalization of Stochastic Gradient Descent with Momentum
von: Ramezani-Kebrya, Ali, et al.
Veröffentlicht: (2018)

Mild Over-Parameterization Benefits Asymmetric Tensor PCA
von: Ding, Shihong, et al.
Veröffentlicht: (2026)

Stochastic Gradient Descent for Gaussian Processes Done Right
von: Lin, Jihao Andreas, et al.
Veröffentlicht: (2023)

Adaptive Kernel Selection for Stein Variational Gradient Descent
von: Melcher, Moritz, et al.
Veröffentlicht: (2025)

Minimax Optimal Convergence of Gradient Descent in Logistic Regression via Large and Adaptive Stepsizes
von: Zhang, Ruiqi, et al.
Veröffentlicht: (2025)

Limited Memory Online Gradient Descent for Kernelized Pairwise Learning with Dynamic Averaging
von: AlQuabeh, Hilal, et al.
Veröffentlicht: (2024)

Descend or Rewind? Stochastic Gradient Descent Unlearning
von: Mu, Siqiao, et al.
Veröffentlicht: (2025)

Adjacent Leader Decentralized Stochastic Gradient Descent
von: He, Haoze, et al.
Veröffentlicht: (2024)

Bolstering Stochastic Gradient Descent with Model Building
von: Birbil, S. Ilker, et al.
Veröffentlicht: (2021)

Statistical Inference for Differentially Private Stochastic Gradient Descent
von: Xia, Xintao, et al.
Veröffentlicht: (2025)

Online Statistical Inference for Contextual Bandits via Stochastic Gradient Descent
von: Chang, Xiangyu, et al.
Veröffentlicht: (2022)

Changing the Kernel During Training Leads to Double Descent in Kernel Regression
von: Allerbo, Oskar
Veröffentlicht: (2023)

Geometrically Inspired Kernel Machines for Collaborative Learning Beyond Gradient Descent
von: Kumar, Mohit, et al.
Veröffentlicht: (2024)

Stochastic Gradient Descent with Strategic Querying
von: Jiang, Nanfei, et al.
Veröffentlicht: (2025)

Stochastic Gradient Descent with Adaptive Data
von: Che, Ethan, et al.
Veröffentlicht: (2024)

Noise Balance and Stationary Distribution of Stochastic Gradient Descent
von: Ziyin, Liu, et al.
Veröffentlicht: (2023)

Trained Mamba Emulates Online Gradient Descent in In-Context Linear Regression
von: Jiang, Jiarui, et al.
Veröffentlicht: (2025)

Tight Bounds for Logistic Regression with Large Stepsize Gradient Descent in Low Dimension
von: Crawshaw, Michael, et al.
Veröffentlicht: (2026)

Parameter Symmetry and Noise Equilibrium of Stochastic Gradient Descent
von: Ziyin, Liu, et al.
Veröffentlicht: (2024)

Sampling from Gaussian Process Posteriors using Stochastic Gradient Descent
von: Lin, Jihao Andreas, et al.
Veröffentlicht: (2023)

An Energy-Based Self-Adaptive Learning Rate for Stochastic Gradient Descent: Enhancing Unconstrained Optimization with VAV method
von: Zhang, Jiahao, et al.
Veröffentlicht: (2024)

Trustworthiness of Stochastic Gradient Descent in Distributed Learning
von: Li, Hongyang, et al.
Veröffentlicht: (2024)

Transformers Efficiently Perform In-Context Logistic Regression via Normalized Gradient Descent
von: Zhang, Chenyang, et al.
Veröffentlicht: (2026)