Enregistré dans:
| Auteurs principaux: | Archer, Aaron, Fahrbach, Matthew, Liu, Kuikui, Prabhu, Prakash |
|---|---|
| Format: | Preprint |
| Publié: |
2023
|
| Sujets: | |
| Accès en ligne: | https://arxiv.org/abs/2311.03703 |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
A Survey on Collaborative DNN Inference for Edge Intelligence
par: Ren, Weiqing, et autres
Publié: (2022)
par: Ren, Weiqing, et autres
Publié: (2022)
GraphPipe: Improving Performance and Scalability of DNN Training with Graph Pipeline Parallelism
par: Jeon, Byungsoo, et autres
Publié: (2024)
par: Jeon, Byungsoo, et autres
Publié: (2024)
Learning the Optimal Path and DNN Partition for Collaborative Edge Inference
par: Huang, Yin, et autres
Publié: (2024)
par: Huang, Yin, et autres
Publié: (2024)
DNN-Powered MLOps Pipeline Optimization for Large Language Models: A Framework for Automated Deployment and Resource Management
par: Krishnamoorthy, Mahesh Vaijainthymala, et autres
Publié: (2025)
par: Krishnamoorthy, Mahesh Vaijainthymala, et autres
Publié: (2025)
CARIn: Constraint-Aware and Responsive Inference on Heterogeneous Devices for Single- and Multi-DNN Workloads
par: Panopoulos, Ioannis, et autres
Publié: (2024)
par: Panopoulos, Ioannis, et autres
Publié: (2024)
Multi-DNN Inference of Sparse Models on Edge SoCs
par: Luo, Jiawei, et autres
Publié: (2026)
par: Luo, Jiawei, et autres
Publié: (2026)
Enabling Large Batch Size Training for DNN Models Beyond the Memory Limit While Maintaining Performance
par: Piao, XinYu, et autres
Publié: (2021)
par: Piao, XinYu, et autres
Publié: (2021)
Towards a Flexible and High-Fidelity Approach to Distributed DNN Training Emulation
par: Liu, Banruo, et autres
Publié: (2024)
par: Liu, Banruo, et autres
Publié: (2024)
PaSE: Parallelization Strategies for Efficient DNN Training
par: Elango, Venmugil
Publié: (2024)
par: Elango, Venmugil
Publié: (2024)
An End-to-End DNN Inference Framework for the SpiNNaker2 Neuromorphic MPSoC
par: Jobst, Matthias, et autres
Publié: (2025)
par: Jobst, Matthias, et autres
Publié: (2025)
Robust DNN Partitioning and Resource Allocation Under Uncertain Inference Time
par: Nan, Zhaojun, et autres
Publié: (2025)
par: Nan, Zhaojun, et autres
Publié: (2025)
Optimal Scheduling Algorithms for LLM Inference: Theory and Practice
par: Bari, Agrim, et autres
Publié: (2025)
par: Bari, Agrim, et autres
Publié: (2025)
PIPO: Pipelined Offloading for Efficient Inference on Consumer Devices
par: Liu, Yangyijian, et autres
Publié: (2025)
par: Liu, Yangyijian, et autres
Publié: (2025)
Symphony: Optimized DNN Model Serving using Deferred Batch Scheduling
par: Chen, Lequn, et autres
Publié: (2023)
par: Chen, Lequn, et autres
Publié: (2023)
HiDP: Hierarchical DNN Partitioning for Distributed Inference on Heterogeneous Edge Platforms
par: Taufique, Zain, et autres
Publié: (2024)
par: Taufique, Zain, et autres
Publié: (2024)
IPA: Inference Pipeline Adaptation to Achieve High Accuracy and Cost-Efficiency
par: Ghafouri, Saeid, et autres
Publié: (2023)
par: Ghafouri, Saeid, et autres
Publié: (2023)
FlashMem: Supporting Modern DNN Workloads on Mobile with GPU Memory Hierarchy Optimizations
par: Shu, Zhihao, et autres
Publié: (2026)
par: Shu, Zhihao, et autres
Publié: (2026)
Exploring the Boundaries of On-Device Inference: When Tiny Falls Short, Go Hierarchical
par: Behera, Adarsh Prasad, et autres
Publié: (2024)
par: Behera, Adarsh Prasad, et autres
Publié: (2024)
TaxBreak: Unmasking the Hidden Costs of LLM Inference Through Overhead Decomposition
par: Vellaisamy, Prabhu, et autres
Publié: (2026)
par: Vellaisamy, Prabhu, et autres
Publié: (2026)
Making MoE-based LLM Inference Resilient with Tarragon
par: Zhang, Songyu, et autres
Publié: (2026)
par: Zhang, Songyu, et autres
Publié: (2026)
MiCRO: Near-Zero Cost Gradient Sparsification for Scaling and Accelerating Distributed DNN Training
par: Yoon, Daegun, et autres
Publié: (2023)
par: Yoon, Daegun, et autres
Publié: (2023)
SwapNet: Efficient Swapping for DNN Inference on Edge AI Devices Beyond the Memory Budget
par: Wang, Kun, et autres
Publié: (2024)
par: Wang, Kun, et autres
Publié: (2024)
PipeInfer: Accelerating LLM Inference using Asynchronous Pipelined Speculation
par: Butler, Branden, et autres
Publié: (2024)
par: Butler, Branden, et autres
Publié: (2024)
Understanding and Improving Communication Performance in Multi-node LLM Inference
par: Singhania, Prajwal, et autres
Publié: (2025)
par: Singhania, Prajwal, et autres
Publié: (2025)
Hermes: Memory-Efficient Pipeline Inference for Large Models on Edge Devices
par: Han, Xueyuan, et autres
Publié: (2024)
par: Han, Xueyuan, et autres
Publié: (2024)
Universal Checkpointing: A Flexible and Efficient Distributed Checkpointing System for Large-Scale DNN Training with Reconfigurable Parallelis
par: Lian, Xinyu, et autres
Publié: (2024)
par: Lian, Xinyu, et autres
Publié: (2024)
FlexLLM: Token-Level Co-Serving of LLM Inference and Finetuning with SLO Guarantees
par: Oliaro, Gabriele, et autres
Publié: (2024)
par: Oliaro, Gabriele, et autres
Publié: (2024)
Performance Characterization of Containerized DNN Training and Inference on Edge Accelerators
par: K., Prashanthi S., et autres
Publié: (2023)
par: K., Prashanthi S., et autres
Publié: (2023)
Governing Cloud Data Pipelines with Agentic AI
par: Kirubakaran, Aswathnarayan Muthukrishnan, et autres
Publié: (2025)
par: Kirubakaran, Aswathnarayan Muthukrishnan, et autres
Publié: (2025)
Nesterov Method for Asynchronous Pipeline Parallel Optimization
par: Ajanthan, Thalaiyasingam, et autres
Publié: (2025)
par: Ajanthan, Thalaiyasingam, et autres
Publié: (2025)
Collaborative Speculative Inference for Efficient LLM Inference Serving
par: Gao, Luyao, et autres
Publié: (2025)
par: Gao, Luyao, et autres
Publié: (2025)
A Readiness-Driven Runtime for Pipeline-Parallel Training under Runtime Variability
par: Liu, Ruitao, et autres
Publié: (2026)
par: Liu, Ruitao, et autres
Publié: (2026)
Context-Driven Performance Modeling for Causal Inference Operators on Neural Processing Units
par: Gupta, Neelesh, et autres
Publié: (2025)
par: Gupta, Neelesh, et autres
Publié: (2025)
BLaST: High Performance Inference and Pretraining using BLock Sparse Transformers
par: Okanovic, Patrik, et autres
Publié: (2025)
par: Okanovic, Patrik, et autres
Publié: (2025)
PiPar: Pipeline Parallelism for Collaborative Machine Learning
par: Zhang, Zihan, et autres
Publié: (2022)
par: Zhang, Zihan, et autres
Publié: (2022)
HelixPipe: Efficient Distributed Training of Long Sequence Transformers with Attention Parallel Pipeline Parallelism
par: Zhang, Geng, et autres
Publié: (2025)
par: Zhang, Geng, et autres
Publié: (2025)
Beyond Inference: Performance Analysis of DNN Server Overheads for Computer Vision
par: AbouElhamayed, Ahmed F., et autres
Publié: (2024)
par: AbouElhamayed, Ahmed F., et autres
Publié: (2024)
AsyncMesh: Fully Asynchronous Optimization for Data and Pipeline Parallelism
par: Ajanthan, Thalaiyasingam, et autres
Publié: (2026)
par: Ajanthan, Thalaiyasingam, et autres
Publié: (2026)
Decentralized Sporadic Federated Learning: A Unified Algorithmic Framework with Convergence Guarantees
par: Zehtabi, Shahryar, et autres
Publié: (2024)
par: Zehtabi, Shahryar, et autres
Publié: (2024)
Ecomap: Sustainability-Driven Optimization of Multi-Tenant DNN Execution on Edge Servers
par: Paramanayakam, Varatheepan, et autres
Publié: (2025)
par: Paramanayakam, Varatheepan, et autres
Publié: (2025)
Documents similaires
-
A Survey on Collaborative DNN Inference for Edge Intelligence
par: Ren, Weiqing, et autres
Publié: (2022) -
GraphPipe: Improving Performance and Scalability of DNN Training with Graph Pipeline Parallelism
par: Jeon, Byungsoo, et autres
Publié: (2024) -
Learning the Optimal Path and DNN Partition for Collaborative Edge Inference
par: Huang, Yin, et autres
Publié: (2024) -
DNN-Powered MLOps Pipeline Optimization for Large Language Models: A Framework for Automated Deployment and Resource Management
par: Krishnamoorthy, Mahesh Vaijainthymala, et autres
Publié: (2025) -
CARIn: Constraint-Aware and Responsive Inference on Heterogeneous Devices for Single- and Multi-DNN Workloads
par: Panopoulos, Ioannis, et autres
Publié: (2024)