Buchumschlag

Inverting the Leverage Score Gradient: An Efficient Approximate Newton Method

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Li, Chenyang, Song, Zhao, Xu, Zhaoxing, Yin, Junze
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

How to Inverting the Leverage Score Distribution?
von: Li, Zhihang, et al.
Veröffentlicht: (2024)

Binary Hypothesis Testing for Softmax Models and Leverage Score Models
von: Gu, Yuzhou, et al.
Veröffentlicht: (2024)

Efficient Alternating Minimization with Applications to Weighted Low Rank Approximation
von: Song, Zhao, et al.
Veröffentlicht: (2023)

Conv-Basis: A New Paradigm for Efficient Attention Inference and Gradient Computation in Transformers
von: Liang, Yingyu, et al.
Veröffentlicht: (2024)

Fast and Efficient Matching Algorithm with Deadline Instances
von: Song, Zhao, et al.
Veröffentlicht: (2023)

Solving Attention Kernel Regression Problem via Pre-conditioner
von: Song, Zhao, et al.
Veröffentlicht: (2023)

An Iterative Algorithm for Rescaled Hyperbolic Functions Regression
von: Gao, Yeqi, et al.
Veröffentlicht: (2023)

Dynamic Maintenance of Kernel Density Estimation Data Structure: From Practice to Theory
von: Liang, Jiehao, et al.
Veröffentlicht: (2022)

Transformers Efficiently Perform In-Context Logistic Regression via Normalized Gradient Descent
von: Zhang, Chenyang, et al.
Veröffentlicht: (2026)

ScoreFusion: Fusing Score-based Generative Models via Kullback-Leibler Barycenters
von: Liu, Hao, et al.
Veröffentlicht: (2024)

One Pass Streaming Algorithm for Super Long Token Attention Approximation in Sublinear Space
von: Addanki, Raghav, et al.
Veröffentlicht: (2023)

Low Rank Matrix Completion via Robust Alternating Minimization in Nearly Linear Time
von: Gu, Yuzhou, et al.
Veröffentlicht: (2023)

Ridge Leverage Score Sampling for $\ell_p$ Subspace Approximation
von: Woodruff, David P., et al.
Veröffentlicht: (2024)

Quadratic Gradient: A Unified Framework Bridging Gradient Descent and Newton-Type Methods by Synthesizing Hessians and Gradients
von: Chiang, John
Veröffentlicht: (2022)

Sublinear Time Algorithm for Online Weighted Bipartite Matching
von: Hu, Hang, et al.
Veröffentlicht: (2022)

An Adaptive Stochastic Gradient Method with Non-negative Gauss-Newton Stepsizes
von: Orvieto, Antonio, et al.
Veröffentlicht: (2024)

Gradient-Free Score-Based Sampling Methods with Ensembles
von: Riel, Bryan, et al.
Veröffentlicht: (2024)

When Can We Solve the Weighted Low Rank Approximation Problem in Truly Subquadratic Time?
von: Li, Chenyang, et al.
Veröffentlicht: (2025)

A Faster $k$-means++ Algorithm
von: Liang, Jiehao, et al.
Veröffentlicht: (2022)

A New Stochastic Approximation Method for Gradient-based Simulated Parameter Estimation
von: Li, Zehao, et al.
Veröffentlicht: (2025)

Sparse Asymptotic PCA: Identifying Sparse Latent Factors Across Time Horizon in High-Dimensional Time Series
von: Gao, Zhaoxing
Veröffentlicht: (2024)

Score Operator Newton transport
von: Chandramoorthy, Nisha, et al.
Veröffentlicht: (2023)

Gradient descent with generalized Newton's method
von: Bu, Zhiqi, et al.
Veröffentlicht: (2024)

Hinge Regression Tree: A Newton Method for Oblique Regression Tree Splitting
von: Li, Hongyi, et al.
Veröffentlicht: (2026)

Split-and-Conquer: Distributed Factor Modeling for High-Dimensional Matrix-Variate Time Series
von: Jiang, Hangjin, et al.
Veröffentlicht: (2026)

Modeling High-Dimensional Dependent Data in the Presence of Many Explanatory Variables and Weak Signals
von: Gao, Zhaoxing, et al.
Veröffentlicht: (2024)

High-Dimensional Robust Mean Estimation with Untrusted Batches
von: Aliakbarpour, Maryam, et al.
Veröffentlicht: (2026)

Support Basis: Fast Attention Beyond Bounded Entries
von: Aliakbarpour, Maryam, et al.
Veröffentlicht: (2025)

Matrix Low-Rank Approximation For Policy Gradient Methods
von: Rozada, Sergio, et al.
Veröffentlicht: (2024)

Adaptive Sampled Softmax with Inverted Multi-Index: Methods, Theory and Applications
von: Chen, Jin, et al.
Veröffentlicht: (2025)

Inverting Gradient Attacks Makes Powerful Data Poisoning
von: Bouaziz, Wassim, et al.
Veröffentlicht: (2024)

Gradient Boosted Risk Scores
von: Georgantas, Costa, et al.
Veröffentlicht: (2026)

Fundamental Bias in Inverting Random Sampling Matrices with Application to Sub-sampled Newton
von: Niu, Chengmei, et al.
Veröffentlicht: (2025)

MAC: An Efficient Gradient Preconditioning using Mean Activation Approximated Curvature
von: Seung, Hyunseok, et al.
Veröffentlicht: (2025)

Approximate Gradient Coding for Distributed Learning with Heterogeneous Stragglers
von: Song, Heekang, et al.
Veröffentlicht: (2025)

Optimal Bias-Correction and Valid Inference in High-Dimensional Ridge Regression: A Closed-Form Solution
von: Gao, Zhaoxing, et al.
Veröffentlicht: (2024)

Multilinear Tensor Low-Rank Approximation for Policy-Gradient Methods in Reinforcement Learning
von: Rozada, Sergio, et al.
Veröffentlicht: (2025)

Supervised Score-Based Modeling by Gradient Boosting
von: Zhao, Changyuan, et al.
Veröffentlicht: (2024)

Global Optimization By Gradient From Hierarchical Score-Matching Spaces
von: Li, Ming
Veröffentlicht: (2026)

On Unbalanced Optimal Transport: Gradient Methods, Sparsity and Approximation Error
von: Nguyen, Quang Minh, et al.
Veröffentlicht: (2022)