Buchumschlag

Asynchronous Heavy-Tailed Optimization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Sun, Junfei, Yao, Dixi, Gong, Xuchen, Rabbani, Tahseen, Zaheer, Manzil, Li, Tian
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Federation over Text: Insight Sharing for Multi-Agent Reasoning
von: Yao, Dixi, et al.
Veröffentlicht: (2026)

Efficient Distributed Optimization under Heavy-Tailed Noise
von: Lee, Su Hyeong, et al.
Veröffentlicht: (2025)

Differentially Private Model Merging
von: Yin, Qichuan, et al.
Veröffentlicht: (2026)

Efficient Adaptive Federated Optimization
von: Lee, Su Hyeong, et al.
Veröffentlicht: (2024)

Private Zeroth-Order Optimization with Public Data
von: Gong, Xuchen, et al.
Veröffentlicht: (2025)

Enhancing Privacy in ControlNet and Stable Diffusion via Split Learning
von: Yao, Dixi
Veröffentlicht: (2024)

Balancing Label Imbalance in Federated Environments Using Only Mixup and Artificially-Labeled Noise
von: Sang, Kyle, et al.
Veröffentlicht: (2024)

Optimal Asynchronous Stochastic Nonconvex Optimization under Heavy-Tailed Noise
von: Wu, Yidong, et al.
Veröffentlicht: (2026)

Risks When Sharing LoRA Fine-Tuned Diffusion Model Weights
von: Yao, Dixi
Veröffentlicht: (2024)

A Statistical Framework for Data-dependent Retrieval-Augmented Models
von: Basu, Soumya, et al.
Veröffentlicht: (2024)

Zeroth-Order Sharpness-Aware Learning with Exponential Tilting
von: Gong, Xuchen, et al.
Veröffentlicht: (2025)

Understanding Outer Optimizers in Local SGD: Learning Rates, Momentum, and Acceleration
von: Khaled, Ahmed, et al.
Veröffentlicht: (2025)

Stochastic Bilevel Optimization with Heavy-Tailed Noise
von: Liu, Zhuanghua, et al.
Veröffentlicht: (2025)

A Fresh Take on Stale Embeddings: Improving Dense Retriever Training with Corrector Networks
von: Monath, Nicholas, et al.
Veröffentlicht: (2024)

Adaptive Retrieval and Scalable Indexing for k-NN Search with Cross-Encoders
von: Yadav, Nishant, et al.
Veröffentlicht: (2024)

Cite Pretrain: Retrieval-Free Knowledge Attribution for Large Language Models
von: Huang, Yukun, et al.
Veröffentlicht: (2025)

Stability and Generalization of Nonconvex Optimization with Heavy-Tailed Noise
von: Chen, Hongxu, et al.
Veröffentlicht: (2026)

Sketch-GNN: Scalable Graph Neural Networks with Sublinear Training Complexity
von: Ding, Mucong, et al.
Veröffentlicht: (2024)

Adaptive Heavy-Tailed Stochastic Gradient Descent
von: Gong, Bodu, et al.
Veröffentlicht: (2025)

Tail Annealing for Heavy-Tailed Flow Matching
von: Pachebat, Jean
Veröffentlicht: (2026)

ExeDec: Execution Decomposition for Compositional Generalization in Neural Program Synthesis
von: Shi, Kensen, et al.
Veröffentlicht: (2023)

On the Performance of Differentially Private Optimization with Heavy-Tail Class Imbalance
von: Tang, Qiaoyue, et al.
Veröffentlicht: (2025)

Federated Stochastic Minimax Optimization under Heavy-Tailed Noises
von: Zhang, Xinwen, et al.
Veröffentlicht: (2025)

Heavy-Tailed Diffusion Models
von: Pandey, Kushagra, et al.
Veröffentlicht: (2024)

Private Stochastic Convex Optimization with Heavy Tails: Near-Optimality from Simple Reductions
von: Asi, Hilal, et al.
Veröffentlicht: (2024)

Stochastic Weakly Convex Optimization Under Heavy-Tailed Noises
von: Zhu, Tianxi, et al.
Veröffentlicht: (2025)

Heavy-Tailed Principal Component Analysis
von: Sayde, Mario, et al.
Veröffentlicht: (2026)

Models of Heavy-Tailed Mechanistic Universality
von: Hodgkinson, Liam, et al.
Veröffentlicht: (2025)

Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise
von: Wang, Menglian, et al.
Veröffentlicht: (2026)

conv_einsum: A Framework for Representation and Fast Evaluation of Multilinear Operations in Convolutional Tensorial Neural Networks
von: Rabbani, Tahseen, et al.
Veröffentlicht: (2024)

Mitigating Unintended Memorization with LoRA in Federated Learning for LLMs
von: Bossy, Thierry, et al.
Veröffentlicht: (2025)

Sign-Based Optimizers Are Effective Under Heavy-Tailed Noise
von: Yu, Dingzhi, et al.
Veröffentlicht: (2026)

Can Public Large Language Models Help Private Cross-device Federated Learning?
von: Wang, Boxin, et al.
Veröffentlicht: (2023)

Heavy-Tail Phenomenon in Decentralized SGD
von: Gurbuzbalaban, Mert, et al.
Veröffentlicht: (2022)

Scale-Invariant Neural Network Optimization: Norm Geometry and Heavy-Tailed Noise
von: Zhang, Jiayu, et al.
Veröffentlicht: (2026)

Online Convex Optimization with Heavy Tails: Old Algorithms, New Regrets, and Applications
von: Liu, Zijian
Veröffentlicht: (2025)

STATE: A Robust ATE Estimator of Heavy-Tailed Metrics for Variance Reduction in Online Controlled Experiments
von: Zhou, Hao, et al.
Veröffentlicht: (2024)

Self-Regulating Annealing in Heavy-Tailed Diffusion Models
von: Wakatsuki, Keito, et al.
Veröffentlicht: (2026)

Heavy-Tailed Diffusion with Denoising Lévy Probabilistic Models
von: Shariatian, Dario, et al.
Veröffentlicht: (2024)

Functional Interpolation for Relative Positions Improves Long Context Transformers
von: Li, Shanda, et al.
Veröffentlicht: (2023)