Buchumschlag

UniAP: Unifying Inter- and Intra-Layer Automatic Parallelism by Mixed Integer Quadratic Programming

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Lin, Hao, Wu, Ke, Li, Jie, Li, Jun, Li, Wu-Jun
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Machine Learning Distributed, Parallel, and Cluster Computing Optimization and Control
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

GPU-Accelerated Primal Heuristics for Mixed Integer Programming
von: Çördük, Akif, et al.
Veröffentlicht: (2025)

From Sequential to Parallel: Reformulating Dynamic Programming as GPU Kernels for Large-Scale Stochastic Combinatorial Optimization
von: Zhao, Jingyi, et al.
Veröffentlicht: (2026)

Temporal Parallelisation of the HJB Equation and Continuous-Time Linear Quadratic Control
von: Särkkä, Simo, et al.
Veröffentlicht: (2022)

Non-ergodic linear convergence property of the delayed gradient descent under the strongly convexity and the Polyak-Łojasiewicz condition
von: Choi, Hyung Jun, et al.
Veröffentlicht: (2023)

OptPipe: Memory- and Scheduling-Optimized Pipeline Parallelism for LLM Training
von: Li, Hongpei, et al.
Veröffentlicht: (2025)

Problem-Parameter-Free Decentralized Nonconvex Stochastic Optimization
von: Li, Jiaxiang, et al.
Veröffentlicht: (2024)

Accelerating Optimal Power Flow with GPUs: SIMD Abstraction of Nonlinear Programs and Condensed-Space Interior-Point Methods
von: Shin, Sungho, et al.
Veröffentlicht: (2023)

D-PDLP: Scaling PDLP to Distributed Multi-GPU Systems
von: Li, Hongpei, et al.
Veröffentlicht: (2026)

Provable Model-Parallel Distributed Principal Component Analysis with Parallel Deflation
von: Liao, Fangshuo, et al.
Veröffentlicht: (2025)

Large-Scale LLM Inference with Heterogeneous Workloads: Prefill-Decode Contention and Asymptotically Optimal Control
von: Lin, Ruihan, et al.
Veröffentlicht: (2026)

Decentralized Gradient-Free Methods for Stochastic Non-Smooth Non-Convex Optimization
von: Lin, Zhenwei, et al.
Veröffentlicht: (2023)

Decentralized Directed Collaboration for Personalized Federated Learning
von: Liu, Yingqi, et al.
Veröffentlicht: (2024)

Activations and Gradients Compression for Model-Parallel Training
von: Rudakov, Mikhail, et al.
Veröffentlicht: (2024)

A GPU-Accelerated Hybrid Method for a Class of Multi-Depot Vehicle Routing Problems
von: Lei, Zhenyu, et al.
Veröffentlicht: (2026)

Stochastic Controlled Averaging for Federated Learning with Communication Compression
von: Huang, Xinmeng, et al.
Veröffentlicht: (2023)

Load Balancing with Network Latencies via Distributed Gradient Descent
von: Balseiro, Santiago R., et al.
Veröffentlicht: (2025)

An Optimistic Gradient Tracking Method for Distributed Minimax Optimization
von: Huang, Yan, et al.
Veröffentlicht: (2025)

Tailoring Gradient Methods for Differentially-Private Distributed Optimization
von: Wang, Yongqiang, et al.
Veröffentlicht: (2022)

A First-Order Algorithm for Decentralised Min-Max Problems
von: Malitsky, Yura, et al.
Veröffentlicht: (2023)

Decentralized Distributed Optimization for Saddle Point Problems
von: Rogozin, Alexander, et al.
Veröffentlicht: (2021)

Decentralized Nonsmooth Nonconvex Optimization with Client Sampling
von: Chen, Xinyan, et al.
Veröffentlicht: (2026)

Distributed Stochastic Momentum Tracking with Local Updates: Achieving Optimal Communication and Iteration Complexities
von: Huang, Kun, et al.
Veröffentlicht: (2025)

Krylov Solvers for Interior Point Methods with Applications in Radiation Therapy and Support Vector Machines
von: Liu, Felix, et al.
Veröffentlicht: (2023)

Smoothed Gradient Clipping and Error Feedback for Decentralized Optimization under Symmetric Heavy-Tailed Noise
von: Yu, Shuhua, et al.
Veröffentlicht: (2023)

Distributed Constraint-Coupled Optimization: Harnessing ADMM-consensus for robustness
von: Messilem, Mohamed Abdelmouamin, et al.
Veröffentlicht: (2025)

An efficient implementation of parallel simulated annealing algorithm in GPUs
von: Ferreiro, A. M., et al.
Veröffentlicht: (2024)

One-Point Feedback for Composite Optimization with Applications to Distributed and Federated Learning
von: Beznosikov, Aleksandr, et al.
Veröffentlicht: (2021)

Modeling Task Mapping for Data-intensive Applications in Heterogeneous Systems
von: Wilhelm, Martin, et al.
Veröffentlicht: (2022)

A GPU-Accelerated Distributed Algorithm for Optimal Power Flow in Distribution Systems
von: Ryu, Minseok, et al.
Veröffentlicht: (2025)

Average-case optimization analysis for distributed consensus algorithms on regular graphs
von: Nguyen, Nhat Trung, et al.
Veröffentlicht: (2024)

Distributed Constrained Combinatorial Optimization leveraging Hypergraph Neural Networks
von: Heydaribeni, Nasimeh, et al.
Veröffentlicht: (2023)

Decentralized Nonconvex Optimization under Heavy-Tailed Noise: Normalization and Optimal Convergence
von: Yu, Shuhua, et al.
Veröffentlicht: (2025)

MindFlayer SGD: Efficient Parallel SGD in the Presence of Heterogeneous and Random Worker Compute Times
von: Maranjyan, Artavazd, et al.
Veröffentlicht: (2024)

Resource Allocation in Large Language Model Integrated 6G Vehicular Networks
von: Liu, Chang, et al.
Veröffentlicht: (2024)

Rennala MVR: Improved Time Complexity for Parallel Stochastic Optimization via Momentum-Based Variance Reduction
von: Tovmasyan, Zhirayr, et al.
Veröffentlicht: (2026)

Time-varying Mixing Matrix Design for Energy-efficient Decentralized Federated Learning
von: Zhang, Xusheng, et al.
Veröffentlicht: (2025)

Constraint Programming Models For Serial Batch Scheduling With Minimum Batch Size
von: Huertas, Jorge A., et al.
Veröffentlicht: (2025)

A Penalty-Based Method for Communication-Efficient Decentralized Bilevel Programming
von: Nazari, Parvin, et al.
Veröffentlicht: (2022)

Communication-Efficient Federated Bilevel Optimization with Local and Global Lower Level Problems
von: Li, Junyi, et al.
Veröffentlicht: (2023)

AGD: an Auto-switchable Optimizer using Stepwise Gradient Difference for Preconditioning Matrix
von: Yue, Yun, et al.
Veröffentlicht: (2023)