Buchumschlag

Game-Theoretic Deep Reinforcement Learning to Minimize Carbon Emissions and Energy Costs for AI Inference Workloads in Geo-Distributed Data Centers

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Hogade, Ninad, Pasricha, Sudeep
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Distributed, Parallel, and Cluster Computing Artificial Intelligence Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Sustainable Carbon-Aware and Water-Efficient LLM Scheduling in Geo-Distributed Cloud Datacenters
von: Moore, Hayden, et al.
Veröffentlicht: (2025)

A Framework for SLO, Carbon, and Wastewater-Aware Sustainable FaaS Cloud Platform Management
von: Qi, Sirui, et al.
Veröffentlicht: (2024)

GreenFaaS: Maximizing Energy Efficiency of HPC Workloads with FaaS
von: Kamatar, Alok, et al.
Veröffentlicht: (2024)

Electricity Cost Minimization for Multi-Workflow Allocation in Geo-Distributed Data Centers
von: Wang, Shuang, et al.
Veröffentlicht: (2025)

CASA: A Framework for SLO and Carbon-Aware Autoscaling and Scheduling in Serverless Cloud Computing
von: Qi, S., et al.
Veröffentlicht: (2024)

MARLIN: Multi-Agent Game-Theoretic Reinforcement Learning for Sustainable LLM Inference in Cloud Datacenters
von: Moore, H., et al.
Veröffentlicht: (2026)

Autonomous Systems Dependability in the era of AI: Design Challenges in Safety, Security, Reliability and Certification
von: Ranjbar, Behnaz, et al.
Veröffentlicht: (2026)

Sustainable Graph Analytics Workload Scheduling with Evolutionary Reinforcement Learning in Edge-Cloud Systems
von: Ramicetty, P., et al.
Veröffentlicht: (2026)

Towards Carbon-Aware Container Orchestration: Predicting Workload Energy Consumption with Federated Learning
von: Saad, Zainab, et al.
Veröffentlicht: (2025)

Resource Allocation and Workload Scheduling for Large-Scale Distributed Deep Learning: A Survey
von: Liang, Feng, et al.
Veröffentlicht: (2024)

Hybrid Heterogeneous Clusters Can Lower the Energy Consumption of LLM Inference Workloads
von: Wilkins, Grant, et al.
Veröffentlicht: (2024)

Quantifying Energy and Cost Benefits of Hybrid Edge Cloud: Analysis of Traditional and Agentic Workloads
von: Alamouti, Siavash
Veröffentlicht: (2025)

Tesserae: Scalable Placement Policies for Deep Learning Workloads
von: Bian, Song, et al.
Veröffentlicht: (2025)

AIMeter: Measuring, Analyzing, and Visualizing Energy and Carbon Footprint of AI Workloads
von: Huang, Hongzhen, et al.
Veröffentlicht: (2025)

AI Surrogate Model for Distributed Computing Workloads
von: Park, David K., et al.
Veröffentlicht: (2024)

Eventually-Consistent Federated Scheduling for Data Center Workloads
von: Thiyyakat, Meghana, et al.
Veröffentlicht: (2023)

Quantifying the Energy Consumption and Carbon Emissions of LLM Inference via Simulations
von: Özcan, Miray, et al.
Veröffentlicht: (2025)

Enabling Secure and Ephemeral AI Workloads in Data Mesh Environments
von: Patel, Chinkit, et al.
Veröffentlicht: (2025)

Data Management System Analysis for Distributed Computing Workloads
von: Hsu, Kuan-Chieh, et al.
Veröffentlicht: (2025)

Verify Distributed Deep Learning Model Implementation Refinement with Iterative Relation Inference
von: Wang, Zhanghan, et al.
Veröffentlicht: (2025)

Offline Energy-Optimal LLM Serving: Workload-Based Energy Models for LLM Inference on Heterogeneous Systems
von: Wilkins, Grant, et al.
Veröffentlicht: (2024)

HuntMS: A Framework for Microservice Geo-Distribution for Carbon and Cost Reduction
von: Christofidi, Georgia, et al.
Veröffentlicht: (2026)

Fire-Flyer AI-HPC: A Cost-Effective Software-Hardware Co-Design for Deep Learning
von: An, Wei, et al.
Veröffentlicht: (2024)

Agentic AI Workload Characteristics
von: Yuan, Yichao, et al.
Veröffentlicht: (2026)

Inference without Interference: Disaggregate LLM Inference for Mixed Downstream Workloads
von: Hu, Cunchen, et al.
Veröffentlicht: (2024)

Environmentally-Conscious Cloud Orchestration Considering Geo-Distributed Data Centers
von: Attenni, Giulio, et al.
Veröffentlicht: (2025)

Scheduling Data-Intensive Workloads in Large-Scale Distributed Systems: Trends and Challenges
von: Stavrinides, Georgios L., et al.
Veröffentlicht: (2025)

SYMPHONY: Improving Memory Management for LLM Inference Workloads
von: Agarwal, Saurabh, et al.
Veröffentlicht: (2024)

Tally: Non-Intrusive Performance Isolation for Concurrent Deep Learning Workloads
von: Zhao, Wei, et al.
Veröffentlicht: (2024)

Duration-Informed Workload Scheduler
von: Loreti, Daniela, et al.
Veröffentlicht: (2026)

High-Dimensional Data Processing: Benchmarking Machine Learning and Deep Learning Architectures in Local and Distributed Environments
von: Rodriguez, Julian, et al.
Veröffentlicht: (2025)

Transforming Future Data Center Operations and Management via Physical AI
von: Cao, Zhiwei, et al.
Veröffentlicht: (2025)

OCTOPINF: Workload-Aware Inference Serving for Edge Video Analytics
von: Nguyen, Thanh-Tung, et al.
Veröffentlicht: (2025)

Workload Schedulers -- Genesis, Algorithms and Differences
von: Sliwko, Leszek, et al.
Veröffentlicht: (2025)

AI Inference as Relocatable Electricity Demand: A Latency-Constrained Energy-Geography Framework
von: Luo, Xubin, et al.
Veröffentlicht: (2026)

Workload-Aware Hardware Accelerator Mining for Distributed Deep Learning Training
von: Adnan, Muhammad, et al.
Veröffentlicht: (2024)

Distributed Load Balancing with Workload-Dependent Service Rates
von: Zhang, Wenxin, et al.
Veröffentlicht: (2024)

An Advanced Reinforcement Learning Framework for Online Scheduling of Deferrable Workloads in Cloud Computing
von: Dong, Hang, et al.
Veröffentlicht: (2024)

Distributed Inference on Mobile Edge and Cloud: A Data-Cartography based Clustering Approach
von: Bajpai, Divya Jyoti, et al.
Veröffentlicht: (2024)

DWDP: Distributed Weight Data Parallelism for High-Performance LLM Inference on NVL72
von: Li, Wanqian, et al.
Veröffentlicht: (2026)