Salvato in:
| Autori principali: | Chen, Jiahe, Ma, Ziye |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2605.09034 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
VAMO: Efficient Zeroth-Order Variance Reduction for SGD with Faster Convergence
di: Chen, Jiahe, et al.
Pubblicazione: (2025)
di: Chen, Jiahe, et al.
Pubblicazione: (2025)
Powering Up Zeroth-Order Training via Subspace Gradient Orthogonalization
di: Lang, Yicheng, et al.
Pubblicazione: (2026)
di: Lang, Yicheng, et al.
Pubblicazione: (2026)
On Adaptivity in Zeroth-Order Optimization
di: Dbouk, Hassan, et al.
Pubblicazione: (2026)
di: Dbouk, Hassan, et al.
Pubblicazione: (2026)
Power Homotopy for Zeroth-Order Non-Convex Optimizations
di: Xu, Chen
Pubblicazione: (2025)
di: Xu, Chen
Pubblicazione: (2025)
Private Zeroth-Order Optimization with Public Data
di: Gong, Xuchen, et al.
Pubblicazione: (2025)
di: Gong, Xuchen, et al.
Pubblicazione: (2025)
The Multi-Query Paradox in Zeroth-Order Optimization
di: Lin, Wei, et al.
Pubblicazione: (2025)
di: Lin, Wei, et al.
Pubblicazione: (2025)
AR1-ZO: Topology-Aware Rank-1 Zeroth-Order Queries for High-Rank LoRA Fine-Tuning
di: Chen, Ziye, et al.
Pubblicazione: (2026)
di: Chen, Ziye, et al.
Pubblicazione: (2026)
On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization
di: Ma, Shaocong, et al.
Pubblicazione: (2025)
di: Ma, Shaocong, et al.
Pubblicazione: (2025)
Zeroth-Order Optimization at the Edge of Stability
di: Song, Minhak, et al.
Pubblicazione: (2026)
di: Song, Minhak, et al.
Pubblicazione: (2026)
Zeroth-Order Optimization is Secretly Single-Step Policy Optimization
di: Qiu, Junbin, et al.
Pubblicazione: (2025)
di: Qiu, Junbin, et al.
Pubblicazione: (2025)
Refining Adaptive Zeroth-Order Optimization at Ease
di: Shu, Yao, et al.
Pubblicazione: (2025)
di: Shu, Yao, et al.
Pubblicazione: (2025)
Privacy Amplification in Differentially Private Zeroth-Order Optimization with Hidden States
di: Chien, Eli, et al.
Pubblicazione: (2025)
di: Chien, Eli, et al.
Pubblicazione: (2025)
Zeroth-Order Methods for Stochastic Nonconvex Nonsmooth Composite Optimization
di: Chen, Ziyi, et al.
Pubblicazione: (2025)
di: Chen, Ziyi, et al.
Pubblicazione: (2025)
Zeroth-Order Optimization Finds Flat Minima
di: Zhang, Liang, et al.
Pubblicazione: (2025)
di: Zhang, Liang, et al.
Pubblicazione: (2025)
Certified Multi-Fidelity Zeroth-Order Optimization
di: de Montbrun, Étienne, et al.
Pubblicazione: (2023)
di: de Montbrun, Étienne, et al.
Pubblicazione: (2023)
Private Zeroth-Order Nonsmooth Nonconvex Optimization
di: Zhang, Qinzi, et al.
Pubblicazione: (2024)
di: Zhang, Qinzi, et al.
Pubblicazione: (2024)
Position: Zeroth-Order Optimization in Deep Learning Is Underexplored, Not Underpowered
di: Liu, Sijia, et al.
Pubblicazione: (2026)
di: Liu, Sijia, et al.
Pubblicazione: (2026)
Efficient Federated RLHF via Zeroth-Order Policy Optimization
di: Wang, Deyi, et al.
Pubblicazione: (2026)
di: Wang, Deyi, et al.
Pubblicazione: (2026)
Learning Dynamics of Zeroth-Order Optimization: A Kernel Perspective
di: Li, Zhe, et al.
Pubblicazione: (2026)
di: Li, Zhe, et al.
Pubblicazione: (2026)
Compander-Aligned Query Geometry for Quantized Zeroth-Order Optimization
di: Shu, Yao, et al.
Pubblicazione: (2026)
di: Shu, Yao, et al.
Pubblicazione: (2026)
Learning a Zeroth-Order Optimizer for Fine-Tuning LLMs
di: Zhang, Kairun, et al.
Pubblicazione: (2025)
di: Zhang, Kairun, et al.
Pubblicazione: (2025)
DeepZero: Scaling up Zeroth-Order Optimization for Deep Model Training
di: Chen, Aochuan, et al.
Pubblicazione: (2023)
di: Chen, Aochuan, et al.
Pubblicazione: (2023)
Elucidating Subspace Perturbation in Zeroth-Order Optimization: Theory and Practice at Scale
di: Park, Sihwan, et al.
Pubblicazione: (2025)
di: Park, Sihwan, et al.
Pubblicazione: (2025)
Low-Rank Curvature for Zeroth-Order Optimization in LLM Fine-Tuning
di: Seung, Hyunseok, et al.
Pubblicazione: (2025)
di: Seung, Hyunseok, et al.
Pubblicazione: (2025)
Subspace-based Approximate Hessian Method for Zeroth-Order Optimization
di: Kim, Dongyoon, et al.
Pubblicazione: (2025)
di: Kim, Dongyoon, et al.
Pubblicazione: (2025)
Model Evolution Under Zeroth-Order Optimization: A Neural Tangent Kernel Perspective
di: Zhang, Chen, et al.
Pubblicazione: (2026)
di: Zhang, Chen, et al.
Pubblicazione: (2026)
ZOTTA: Test-Time Adaptation with Gradient-Free Zeroth-Order Optimization
di: Zhang, Ronghao, et al.
Pubblicazione: (2026)
di: Zhang, Ronghao, et al.
Pubblicazione: (2026)
Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations
di: Ma, Shaocong, et al.
Pubblicazione: (2025)
di: Ma, Shaocong, et al.
Pubblicazione: (2025)
Matrix Sensing with Kernel Optimal Loss: Robustness and Optimization Landscape
di: Song, Xinyuan, et al.
Pubblicazione: (2025)
di: Song, Xinyuan, et al.
Pubblicazione: (2025)
Universally Empowering Zeroth-Order Optimization via Adaptive Layer-wise Sampling
di: Wang, Fei, et al.
Pubblicazione: (2026)
di: Wang, Fei, et al.
Pubblicazione: (2026)
A New Formulation for Zeroth-Order Optimization of Adversarial EXEmples in Malware Detection
di: Rando, Marco, et al.
Pubblicazione: (2024)
di: Rando, Marco, et al.
Pubblicazione: (2024)
Second-Order Fine-Tuning without Pain for LLMs:A Hessian Informed Zeroth-Order Optimizer
di: Zhao, Yanjun, et al.
Pubblicazione: (2024)
di: Zhao, Yanjun, et al.
Pubblicazione: (2024)
On-Device Fine-Tuning via Backprop-Free Zeroth-Order Optimization
di: Katti, Prabodh, et al.
Pubblicazione: (2025)
di: Katti, Prabodh, et al.
Pubblicazione: (2025)
KerZOO: Kernel Function Informed Zeroth-Order Optimization for Accurate and Accelerated LLM Fine-Tuning
di: Mi, Zhendong, et al.
Pubblicazione: (2025)
di: Mi, Zhendong, et al.
Pubblicazione: (2025)
Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark
di: Zhang, Yihua, et al.
Pubblicazione: (2024)
di: Zhang, Yihua, et al.
Pubblicazione: (2024)
Revisiting Zeroth-Order Hessian Approximation: A Single-Step Policy Optimization Lens
di: Qiu, Junbin, et al.
Pubblicazione: (2026)
di: Qiu, Junbin, et al.
Pubblicazione: (2026)
Data-Free Black-Box Federated Learning via Zeroth-Order Gradient Estimation
di: Ma, Xinge, et al.
Pubblicazione: (2025)
di: Ma, Xinge, et al.
Pubblicazione: (2025)
Ancestral Reinforcement Learning: Unifying Zeroth-Order Optimization and Genetic Algorithms for Reinforcement Learning
di: Nakashima, So, et al.
Pubblicazione: (2024)
di: Nakashima, So, et al.
Pubblicazione: (2024)
Preconditioning Benefits of Spectral Orthogonalization in Muon
di: Ma, Jianhao, et al.
Pubblicazione: (2026)
di: Ma, Jianhao, et al.
Pubblicazione: (2026)
Zeroth-Order Stochastic Mirror Descent Algorithms for Minimax Excess Risk Optimization
di: Gu, Zhihao, et al.
Pubblicazione: (2024)
di: Gu, Zhihao, et al.
Pubblicazione: (2024)
Documenti analoghi
-
VAMO: Efficient Zeroth-Order Variance Reduction for SGD with Faster Convergence
di: Chen, Jiahe, et al.
Pubblicazione: (2025) -
Powering Up Zeroth-Order Training via Subspace Gradient Orthogonalization
di: Lang, Yicheng, et al.
Pubblicazione: (2026) -
On Adaptivity in Zeroth-Order Optimization
di: Dbouk, Hassan, et al.
Pubblicazione: (2026) -
Power Homotopy for Zeroth-Order Non-Convex Optimizations
di: Xu, Chen
Pubblicazione: (2025) -
Private Zeroth-Order Optimization with Public Data
di: Gong, Xuchen, et al.
Pubblicazione: (2025)