Gespeichert in:
| Hauptverfasser: | Ravi, Hrithik, Scott, Clayton, Soudry, Daniel, Wang, Yutong |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | https://arxiv.org/abs/2411.01350 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
The Implicit Bias of Gradient Descent on Separable Data
von: Soudry, Daniel, et al.
Veröffentlicht: (2017)
von: Soudry, Daniel, et al.
Veröffentlicht: (2017)
Implicit Bias of Spectral Descent and Muon on Multiclass Separable Data
von: Fan, Chen, et al.
Veröffentlicht: (2025)
von: Fan, Chen, et al.
Veröffentlicht: (2025)
Unified Binary and Multiclass Margin-Based Classification
von: Wang, Yutong, et al.
Veröffentlicht: (2023)
von: Wang, Yutong, et al.
Veröffentlicht: (2023)
Towards The Implicit Bias on Multiclass Separable Data Under Norm Constraints
von: Xie, Shengping, et al.
Veröffentlicht: (2026)
von: Xie, Shengping, et al.
Veröffentlicht: (2026)
Multiclass Loss Geometry Matters for Generalization of Gradient Descent in Separable Classification
von: Schliserman, Matan, et al.
Veröffentlicht: (2025)
von: Schliserman, Matan, et al.
Veröffentlicht: (2025)
Implicit Bias of Mirror Flow on Separable Data
von: Pesme, Scott, et al.
Veröffentlicht: (2024)
von: Pesme, Scott, et al.
Veröffentlicht: (2024)
The Implicit Bias of Steepest Descent with Mini-batch Stochastic Gradient
von: Li, Jichu, et al.
Veröffentlicht: (2026)
von: Li, Jichu, et al.
Veröffentlicht: (2026)
Implicit Bias of Gradient Descent for Non-Homogeneous Deep Networks
von: Cai, Yuhang, et al.
Veröffentlicht: (2025)
von: Cai, Yuhang, et al.
Veröffentlicht: (2025)
Convergence and Implicit Bias of Gradient Descent on Continual Linear Classification
von: Jung, Hyunji, et al.
Veröffentlicht: (2025)
von: Jung, Hyunji, et al.
Veröffentlicht: (2025)
PLUMAGE: Probabilistic Low rank Unbiased Min Variance Gradient Estimator for Efficient Large Model Training
von: Haroush, Matan, et al.
Veröffentlicht: (2025)
von: Haroush, Matan, et al.
Veröffentlicht: (2025)
The Implicit Bias of Adam on Separable Data
von: Zhang, Chenyang, et al.
Veröffentlicht: (2024)
von: Zhang, Chenyang, et al.
Veröffentlicht: (2024)
Feature Averaging: An Implicit Bias of Gradient Descent Leading to Non-Robustness in Neural Networks
von: Li, Binghui, et al.
Veröffentlicht: (2024)
von: Li, Binghui, et al.
Veröffentlicht: (2024)
Training Instabilities Induce Flatness Bias in Gradient Descent
von: Wang, Lawrence, et al.
Veröffentlicht: (2025)
von: Wang, Lawrence, et al.
Veröffentlicht: (2025)
Gradient Descent on Logistic Regression with Non-Separable Data and Large Step Sizes
von: Meng, Si Yi, et al.
Veröffentlicht: (2024)
von: Meng, Si Yi, et al.
Veröffentlicht: (2024)
Implicit Bias and Convergence of Matrix Stochastic Mirror Descent
von: Akhtiamov, Danil, et al.
Veröffentlicht: (2026)
von: Akhtiamov, Danil, et al.
Veröffentlicht: (2026)
Minimum Variance Unbiased N:M Sparsity for the Neural Gradients
von: Chmiel, Brian, et al.
Veröffentlicht: (2022)
von: Chmiel, Brian, et al.
Veröffentlicht: (2022)
How Does the ReLU Activation Affect the Implicit Bias of Gradient Descent on High-dimensional Neural Network Regression?
von: Lai, Kuo-Wei, et al.
Veröffentlicht: (2026)
von: Lai, Kuo-Wei, et al.
Veröffentlicht: (2026)
Any-stepsize Gradient Descent for Separable Data under Fenchel-Young Losses
von: Bao, Han, et al.
Veröffentlicht: (2025)
von: Bao, Han, et al.
Veröffentlicht: (2025)
Flavors of Margin: Implicit Bias of Steepest Descent in Homogeneous Neural Networks
von: Tsilivis, Nikolaos, et al.
Veröffentlicht: (2024)
von: Tsilivis, Nikolaos, et al.
Veröffentlicht: (2024)
Turning Stale Gradients into Stable Gradients: Coherent Coordinate Descent with Implicit Landscape Smoothing for Lightweight Zeroth-Order Optimization
von: Liang, Chen, et al.
Veröffentlicht: (2026)
von: Liang, Chen, et al.
Veröffentlicht: (2026)
Understanding the Implicit Regularization of Gradient Descent in Over-parameterized Models
von: Ma, Jianhao, et al.
Veröffentlicht: (2025)
von: Ma, Jianhao, et al.
Veröffentlicht: (2025)
Implicit Regularization for Tubal Tensor Factorizations via Gradient Descent
von: Karnik, Santhosh, et al.
Veröffentlicht: (2024)
von: Karnik, Santhosh, et al.
Veröffentlicht: (2024)
Gradient Descent as a Shrinkage Operator for Spectral Bias
von: Lucey, Simon
Veröffentlicht: (2025)
von: Lucey, Simon
Veröffentlicht: (2025)
Exponential Convergence of (Stochastic) Gradient Descent for Separable Logistic Regression
von: Kale, Sacchit, et al.
Veröffentlicht: (2026)
von: Kale, Sacchit, et al.
Veröffentlicht: (2026)
Convergence of Implicit Gradient Descent for Training Two-Layer Physics-Informed Neural Networks
von: Xu, Xianliang, et al.
Veröffentlicht: (2024)
von: Xu, Xianliang, et al.
Veröffentlicht: (2024)
Bias of Stochastic Gradient Descent or the Architecture: Disentangling the Effects of Overparameterization of Neural Networks
von: Peleg, Amit, et al.
Veröffentlicht: (2024)
von: Peleg, Amit, et al.
Veröffentlicht: (2024)
Refining Covariance Matrix Estimation in Stochastic Gradient Descent Through Bias Reduction
von: Wei, Ziyang, et al.
Veröffentlicht: (2026)
von: Wei, Ziyang, et al.
Veröffentlicht: (2026)
How Uniform Random Weights Induce Non-uniform Bias: Typical Interpolating Neural Networks Generalize with Narrow Teachers
von: Buzaglo, Gon, et al.
Veröffentlicht: (2024)
von: Buzaglo, Gon, et al.
Veröffentlicht: (2024)
Gradient Descent as a Perceptron Algorithm: Understanding Dynamics and Implicit Acceleration
von: Tyurin, Alexander
Veröffentlicht: (2025)
von: Tyurin, Alexander
Veröffentlicht: (2025)
Stochastic Gradient Descent with Adaptive Data
von: Che, Ethan, et al.
Veröffentlicht: (2024)
von: Che, Ethan, et al.
Veröffentlicht: (2024)
Are Transformers Able to Reason by Connecting Separated Knowledge in Training Data?
von: Yin, Yutong, et al.
Veröffentlicht: (2025)
von: Yin, Yutong, et al.
Veröffentlicht: (2025)
Multiclass ROC
von: Wang, Liang, et al.
Veröffentlicht: (2024)
von: Wang, Liang, et al.
Veröffentlicht: (2024)
Using Stochastic Gradient Descent to Smooth Nonconvex Functions: Analysis of Implicit Graduated Optimization
von: Sato, Naoki, et al.
Veröffentlicht: (2023)
von: Sato, Naoki, et al.
Veröffentlicht: (2023)
Occam Gradient Descent
von: Kausik, B. N.
Veröffentlicht: (2024)
von: Kausik, B. N.
Veröffentlicht: (2024)
Gradient Descent Algorithm Survey
von: Fucheng, Deng, et al.
Veröffentlicht: (2025)
von: Fucheng, Deng, et al.
Veröffentlicht: (2025)
Implicit Bias of Per-sample Adam on Separable Data: Departure from the Full-batch Regime
von: Baek, Beomhan, et al.
Veröffentlicht: (2025)
von: Baek, Beomhan, et al.
Veröffentlicht: (2025)
Inductive Gradient Adjustment For Spectral Bias In Implicit Neural Representations
von: Shi, Kexuan, et al.
Veröffentlicht: (2024)
von: Shi, Kexuan, et al.
Veröffentlicht: (2024)
Gradient Descent as Implicit EM in Distance-Based Neural Models
von: Oursland, Alan
Veröffentlicht: (2025)
von: Oursland, Alan
Veröffentlicht: (2025)
Towards Cheaper Inference in Deep Networks with Lower Bit-Width Accumulators
von: Blumenfeld, Yaniv, et al.
Veröffentlicht: (2024)
von: Blumenfeld, Yaniv, et al.
Veröffentlicht: (2024)
Foldable SuperNets: Scalable Merging of Transformers with Different Initializations and Tasks
von: Kinderman, Edan, et al.
Veröffentlicht: (2024)
von: Kinderman, Edan, et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
The Implicit Bias of Gradient Descent on Separable Data
von: Soudry, Daniel, et al.
Veröffentlicht: (2017) -
Implicit Bias of Spectral Descent and Muon on Multiclass Separable Data
von: Fan, Chen, et al.
Veröffentlicht: (2025) -
Unified Binary and Multiclass Margin-Based Classification
von: Wang, Yutong, et al.
Veröffentlicht: (2023) -
Towards The Implicit Bias on Multiclass Separable Data Under Norm Constraints
von: Xie, Shengping, et al.
Veröffentlicht: (2026) -
Multiclass Loss Geometry Matters for Generalization of Gradient Descent in Separable Classification
von: Schliserman, Matan, et al.
Veröffentlicht: (2025)