Beyond Microservices: Testing Web-Scale RCA Methods on GPU-Driven LLM Workloads
Fuente:
arXiv
Salvato in:
| Autori principali: | Scheinert, Dominik, Acker, Alexander, Wittkopp, Thorsten, Becker, Soeren, Yous, Hamza, Reddy, Karnakar, Farhat, Ibrahim, Hacid, Hakim, Kao, Odej |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Distributed Low-Communication Training with Decoupled Momentum Optimization
di: Nedelkoski, Sasho, et al.
Pubblicazione: (2025)
di: Nedelkoski, Sasho, et al.
Pubblicazione: (2025)
Distributed LLM Pretraining During Renewable Curtailment Windows: A Feasibility Study
di: Wiesner, Philipp, et al.
Pubblicazione: (2026)
di: Wiesner, Philipp, et al.
Pubblicazione: (2026)
What happens when nanochat meets DiLoCo?
di: Acker, Alexander, et al.
Pubblicazione: (2025)
di: Acker, Alexander, et al.
Pubblicazione: (2025)
LogRCA: Log-based Root Cause Analysis for Distributed Services
di: Wittkopp, Thorsten, et al.
Pubblicazione: (2024)
di: Wittkopp, Thorsten, et al.
Pubblicazione: (2024)
Demeter: Resource-Efficient Distributed Stream Processing under Dynamic Loads with Multi-Configuration Optimization
di: Geldenhuys, Morgan, et al.
Pubblicazione: (2024)
di: Geldenhuys, Morgan, et al.
Pubblicazione: (2024)
Beyond Test-Time Compute Strategies: Advocating Energy-per-Token in LLM Inference
di: Wilhelm, Patrick, et al.
Pubblicazione: (2026)
di: Wilhelm, Patrick, et al.
Pubblicazione: (2026)
Daedalus: Self-Adaptive Horizontal Autoscaling for Resource Efficiency of Distributed Stream Processing Systems
di: Pfister, Benjamin J. J., et al.
Pubblicazione: (2024)
di: Pfister, Benjamin J. J., et al.
Pubblicazione: (2024)
Towards a Peer-to-Peer Data Distribution Layer for Efficient and Collaborative Resource Optimization of Distributed Dataflow Applications
di: Scheinert, Dominik, et al.
Pubblicazione: (2023)
di: Scheinert, Dominik, et al.
Pubblicazione: (2023)
Sizey: Memory-Efficient Execution of Scientific Workflow Tasks
di: Bader, Jonathan, et al.
Pubblicazione: (2024)
di: Bader, Jonathan, et al.
Pubblicazione: (2024)
Predicting the Performance of Scientific Workflow Tasks for Cluster Resource Management: An Overview of the State of the Art
di: Bader, Jonathan, et al.
Pubblicazione: (2025)
di: Bader, Jonathan, et al.
Pubblicazione: (2025)
ALRM: Agentic LLM for Robotic Manipulation
di: Santos, Vitor Gaboardi dos, et al.
Pubblicazione: (2026)
di: Santos, Vitor Gaboardi dos, et al.
Pubblicazione: (2026)
Monitoring Emergent Reward Hacking During Generation via Internal Activations
di: Wilhelm, Patrick, et al.
Pubblicazione: (2026)
di: Wilhelm, Patrick, et al.
Pubblicazione: (2026)
Choosing the Right Battery Model for Data Center Simulations
di: Kilian, Paul, et al.
Pubblicazione: (2025)
di: Kilian, Paul, et al.
Pubblicazione: (2025)
Flora: Efficient Cloud Resource Selection for Big Data Processing via Job Classification
di: Will, Jonathan, et al.
Pubblicazione: (2025)
di: Will, Jonathan, et al.
Pubblicazione: (2025)
Quantifying the Energy Consumption and Carbon Emissions of LLM Inference via Simulations
di: Özcan, Miray, et al.
Pubblicazione: (2025)
di: Özcan, Miray, et al.
Pubblicazione: (2025)
On Software Ageing Indicators in OpenStack
di: Yazvinskyi, Yevhen, et al.
Pubblicazione: (2024)
di: Yazvinskyi, Yevhen, et al.
Pubblicazione: (2024)
Predicting Dynamic Memory Requirements for Scientific Workflow Tasks
di: Bader, Jonathan, et al.
Pubblicazione: (2023)
di: Bader, Jonathan, et al.
Pubblicazione: (2023)
Optimizing Microgrid Composition for Sustainable Data Centers
di: Irion, Julius, et al.
Pubblicazione: (2025)
di: Irion, Julius, et al.
Pubblicazione: (2025)
SHADOW: Seamless Handoff And Zero-Downtime Orchestrated Workload Migration for Stateful Microservices
di: Dinh-Tuan, Hai
Pubblicazione: (2026)
di: Dinh-Tuan, Hai
Pubblicazione: (2026)
CRIUgpu: Transparent Checkpointing of GPU-Accelerated Workloads
di: Stoyanov, Radostin, et al.
Pubblicazione: (2025)
di: Stoyanov, Radostin, et al.
Pubblicazione: (2025)
KS+: Predicting Workflow Task Memory Usage Over Time
di: Bader, Jonathan, et al.
Pubblicazione: (2024)
di: Bader, Jonathan, et al.
Pubblicazione: (2024)
QONNECT: A QoS-Aware Orchestration System for Distributed Kubernetes Clusters
di: Aslan, Haci Ismail, et al.
Pubblicazione: (2025)
di: Aslan, Haci Ismail, et al.
Pubblicazione: (2025)
Training Machine Learning models at the Edge: A Survey
di: Khouas, Aymen Rayane, et al.
Pubblicazione: (2024)
di: Khouas, Aymen Rayane, et al.
Pubblicazione: (2024)
Vessim: A Testbed for Carbon-Aware Applications and Systems
di: Wiesner, Philipp, et al.
Pubblicazione: (2023)
di: Wiesner, Philipp, et al.
Pubblicazione: (2023)
Mobile Edge Computing
di: Ahmed, Sohaib, et al.
Pubblicazione: (2024)
di: Ahmed, Sohaib, et al.
Pubblicazione: (2024)
MERBIT: A GPU-Based SpMV Method for Iterative Workloads
di: Zhang, Qi, et al.
Pubblicazione: (2026)
di: Zhang, Qi, et al.
Pubblicazione: (2026)
Characterizing Production GPU Workloads using System-wide Telemetry Data
di: Cankur, Onur, et al.
Pubblicazione: (2025)
di: Cankur, Onur, et al.
Pubblicazione: (2025)
Far From Sight, Far From Mind: Inverse Distance Weighting for Graph Federated Recommendation
di: Khouas, Aymen Rayane, et al.
Pubblicazione: (2025)
di: Khouas, Aymen Rayane, et al.
Pubblicazione: (2025)
Experimentally Evaluating the Resource Efficiency of Big Data Autoscaling
di: Will, Jonathan, et al.
Pubblicazione: (2025)
di: Will, Jonathan, et al.
Pubblicazione: (2025)
PAL: A Variability-Aware Policy for Scheduling ML Workloads in GPU Clusters
di: Jain, Rutwik, et al.
Pubblicazione: (2024)
di: Jain, Rutwik, et al.
Pubblicazione: (2024)
PRISM: Dynamic Primitive-Based Forecasting for Large-Scale GPU Cluster Workloads
di: Wu, Xin, et al.
Pubblicazione: (2026)
di: Wu, Xin, et al.
Pubblicazione: (2026)
Learning Process Energy Profiles from Node-Level Power Data
di: Bader, Jonathan, et al.
Pubblicazione: (2025)
di: Bader, Jonathan, et al.
Pubblicazione: (2025)
Carbon-Aware Quality Adaptation for Energy-Intensive Services
di: Wiesner, Philipp, et al.
Pubblicazione: (2024)
di: Wiesner, Philipp, et al.
Pubblicazione: (2024)
FedZero: Leveraging Renewable Excess Energy in Federated Learning
di: Wiesner, Philipp, et al.
Pubblicazione: (2023)
di: Wiesner, Philipp, et al.
Pubblicazione: (2023)
An Online Fragmentation-Aware Scheduler for Managing GPU-Sharing Workloads on Multi-Instance GPUs
di: Ting, Hsu-Tzu, et al.
Pubblicazione: (2025)
di: Ting, Hsu-Tzu, et al.
Pubblicazione: (2025)
Minos: Systematically Classifying Performance and Power Characteristics of GPU Workloads on HPC Clusters
di: Jain, Rutwik, et al.
Pubblicazione: (2026)
di: Jain, Rutwik, et al.
Pubblicazione: (2026)
Prediction-Assisted Online Distributed Deep Learning Workload Scheduling in GPU Clusters
di: Luo, Ziyue, et al.
Pubblicazione: (2025)
di: Luo, Ziyue, et al.
Pubblicazione: (2025)
Maya: Optimizing Deep Learning Training Workloads using GPU Runtime Emulation
di: Yarlagadda, Srihas, et al.
Pubblicazione: (2025)
di: Yarlagadda, Srihas, et al.
Pubblicazione: (2025)
Optimizing Memory Allocation in Distributed Clusters with Predictive Modeling
di: Bader, Jonathan, et al.
Pubblicazione: (2026)
di: Bader, Jonathan, et al.
Pubblicazione: (2026)
Privacy-Preserving Sharing of Data Analytics Runtime Metrics for Performance Modeling
di: Will, Jonathan, et al.
Pubblicazione: (2024)
di: Will, Jonathan, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Distributed Low-Communication Training with Decoupled Momentum Optimization
di: Nedelkoski, Sasho, et al.
Pubblicazione: (2025) -
Distributed LLM Pretraining During Renewable Curtailment Windows: A Feasibility Study
di: Wiesner, Philipp, et al.
Pubblicazione: (2026) -
What happens when nanochat meets DiLoCo?
di: Acker, Alexander, et al.
Pubblicazione: (2025) -
LogRCA: Log-based Root Cause Analysis for Distributed Services
di: Wittkopp, Thorsten, et al.
Pubblicazione: (2024) -
Demeter: Resource-Efficient Distributed Stream Processing under Dynamic Loads with Multi-Configuration Optimization
di: Geldenhuys, Morgan, et al.
Pubblicazione: (2024)