Buchumschlag

Diagnosing Overhead in Dispatch Operations: Cross-architecture Observatory

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ma, Bole, Eitzinger, Jan, Koestler, Harald, Wellein, Gerhard
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Distributed, Parallel, and Cluster Computing Artificial Intelligence Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Leyline: KV Cache Directives for Agentic Inference
von: Ma, Bole, et al.
Veröffentlicht: (2026)

The Illusion of Power Capping in LLM Decode: A Phase-Aware Energy Characterisation Across Attention Architectures
von: Ma, Bole, et al.
Veröffentlicht: (2026)

Move the Query, Not the Cache: Characterizing Cross-Instance Latent Attention Redistribution Across GPU Fabrics
von: Ma, Bole, et al.
Veröffentlicht: (2026)

Irminsul: MLA-Native Position-Independent Caching for Agentic LLM Serving
von: Ma, Bole, et al.
Veröffentlicht: (2026)

SpaFL: Communication-Efficient Federated Learning with Sparse Models and Low computational Overhead
von: Kim, Minsu, et al.
Veröffentlicht: (2024)

On the Challenges of Energy-Efficiency Analysis in HPC Systems: Evaluating Synthetic Benchmarks and Gromacs
von: Machado, Rafael Ravedutti Lucio, et al.
Veröffentlicht: (2025)

Compress then Serve: Serving Thousands of LoRA Adapters with Little Overhead
von: Brüel-Gabrielsson, Rickard, et al.
Veröffentlicht: (2024)

Characterizing WebGPU Dispatch Overhead for LLM Inference Across Four GPU Vendors, Three Backends, and Three Browsers
von: Maczan, Jędrzej
Veröffentlicht: (2026)

CUTEv2: Unified and Configurable Matrix Extension for Diverse CPU Architectures with Minimal Design Overhead
von: Ye, Jinpeng, et al.
Veröffentlicht: (2026)

Enhancing Lossy Compression Through Cross-Field Information for Scientific Applications
von: Liu, Youyuan, et al.
Veröffentlicht: (2024)

Cost-Efficient Multimodal LLM Inference via Cross-Tier GPU Heterogeneity
von: Yu, Donglin
Veröffentlicht: (2026)

RelayGR: Scaling Long-Sequence Generative Recommendation via Cross-Stage Relay-Race Inference
von: Wang, Jiarui, et al.
Veröffentlicht: (2026)

HybridEP: Scaling Expert Parallelism to Cross-Datacenter Scenario via Hybrid Expert/Data Transmission
von: Yang, Weihao, et al.
Veröffentlicht: (2025)

Towards the Next Frontier of LLMs, Training on Private Data: A Cross-Domain Benchmark for Federated Fine-Tuning
von: Jimenez-Gutierrez, Daniel M., et al.
Veröffentlicht: (2026)

Efficient Multi-Adapter LLM Serving via Cross-Model KV-Cache Reuse with Activated LoRA
von: Li, Allison, et al.
Veröffentlicht: (2025)

Training Overhead Ratio: A Practical Reliability Metric for Large Language Model Training Systems
von: Lu, Ning, et al.
Veröffentlicht: (2024)

A Survey on Federated Unlearning: Challenges and Opportunities
von: Jeong, Hyejun, et al.
Veröffentlicht: (2024)

Syno: Structured Synthesis for Neural Operators
von: Zhuo, Yongqi, et al.
Veröffentlicht: (2024)

DP2FL: Dual Prompt Personalized Federated Learning in Foundation Models
von: Chang, Ying, et al.
Veröffentlicht: (2025)

Microarchitectural comparison and in-core modeling of state-of-the-art CPUs: Grace, Sapphire Rapids, and Genoa
von: Laukemann, Jan, et al.
Veröffentlicht: (2024)

Lion Cub: Minimizing Communication Overhead in Distributed Lion
von: Ishikawa, Satoki, et al.
Veröffentlicht: (2024)

Beyond Inference: Performance Analysis of DNN Server Overheads for Computer Vision
von: AbouElhamayed, Ahmed F., et al.
Veröffentlicht: (2024)

Hermes: Memory-Efficient Pipeline Inference for Large Models on Edge Devices
von: Han, Xueyuan, et al.
Veröffentlicht: (2024)

Communication-Efficient Personalized Federal Graph Learning via Low-Rank Decomposition
von: Liu, Ruyue, et al.
Veröffentlicht: (2024)

Full Scaling Automation for Sustainable Development of Green Data Centers
von: Wang, Shiyu, et al.
Veröffentlicht: (2023)

DISTFLASHATTN: Distributed Memory-efficient Attention for Long-context LLMs Training
von: Li, Dacheng, et al.
Veröffentlicht: (2023)

Efficient Federated Learning with Heterogeneous Data and Adaptive Dropout
von: Liu, Ji, et al.
Veröffentlicht: (2025)

Mind the Gap: Revealing Inconsistencies Across Heterogeneous AI Accelerators
von: Wen, Elliott, et al.
Veröffentlicht: (2025)

Tackling the Dynamicity in a Production LLM Serving System with SOTA Optimizations via Hybrid Prefill/Decode/Verify Scheduling on Efficient Meta-kernels
von: Song, Mingcong, et al.
Veröffentlicht: (2024)

BootSeer: Analyzing and Mitigating Initialization Bottlenecks in Large-Scale LLM Training
von: Li, Rui, et al.
Veröffentlicht: (2025)

Where Do the Joules Go? Diagnosing Inference Energy Consumption
von: Chung, Jae-Won, et al.
Veröffentlicht: (2026)

MinT: Managed Infrastructure for Training and Serving Millions of LLMs
von: Lab, Mind, et al.
Veröffentlicht: (2026)

Near-Zero-Overhead Freshness for Recommendation Systems via Inference-Side Model Updates
von: Yu, Wenjun, et al.
Veröffentlicht: (2025)

Reducing Communication Overhead in Federated Learning for Network Anomaly Detection with Adaptive Client Selection
von: Marfo, William, et al.
Veröffentlicht: (2025)

Deep Reinforcement Learning for Optimizing Energy Consumption in Smart Grid Systems
von: Alsheikhi, Abeer, et al.
Veröffentlicht: (2026)

Carbon-aware decentralized dynamic task offloading in MIMO-MEC networks via multi-agent reinforcement learning
von: Zulfiqar, Mubshra, et al.
Veröffentlicht: (2026)

CA-AFP: Cluster-Aware Adaptive Federated Pruning
von: Jha, Om Govind, et al.
Veröffentlicht: (2026)

Federated Hierarchical Clustering with Automatic Selection of Optimal Cluster Numbers
von: Zhang, Yue, et al.
Veröffentlicht: (2026)

ARL-Tangram: Unleash the Resource Efficiency in Agentic Reinforcement Learning
von: Xiao, Bangjun, et al.
Veröffentlicht: (2026)

Compass: Optimizing Compound AI Workflows for Dynamic Adaptation
von: Gravara, Milos, et al.
Veröffentlicht: (2026)