Buchumschlag

Toward Cross-Layer Energy Optimizations in AI Systems

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chung, Jae-Won, Talati, Nishil, Chowdhury, Mosharaf
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Hardware Architecture Distributed, Parallel, and Cluster Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ZKProphet: Understanding Performance of Zero-Knowledge Proofs on GPUs
von: Verma, Tarunesh, et al.
Veröffentlicht: (2025)

MLPerf Power: Benchmarking the Energy Efficiency of Machine Learning Systems from Microwatts to Megawatts for Sustainable AI
von: Tschand, Arya, et al.
Veröffentlicht: (2024)

NMP-PaK: Near-Memory Processing Acceleration of Scalable De Novo Genome Assembly
von: Kim, Heewoo, et al.
Veröffentlicht: (2025)

Towards Fair and Firm Real-Time Scheduling in DNN Multi-Tenant Multi-Accelerator Systems via Reinforcement Learning
von: Russo, Enrico, et al.
Veröffentlicht: (2024)

LayerDAG: A Layerwise Autoregressive Diffusion Model for Directed Acyclic Graph Generation
von: Li, Mufei, et al.
Veröffentlicht: (2024)

AI and Memory Wall
von: Gholami, Amir, et al.
Veröffentlicht: (2024)

A High Energy-Efficiency Multi-core Neuromorphic Architecture for Deep SNN Training
von: Li, Mingjing, et al.
Veröffentlicht: (2024)

ELK: Exploring the Efficiency of Inter-core Connected AI Chips with Deep Learning Compiler Techniques
von: Liu, Yiqi, et al.
Veröffentlicht: (2025)

ENEC: A Lossless AI Model Compression Method Enabling Fast Inference on Ascend NPUs
von: Yang, Jinwu, et al.
Veröffentlicht: (2026)

Kareus: Joint Reduction of Dynamic and Static Energy in Large Model Training
von: Wu, Ruofan, et al.
Veröffentlicht: (2026)

A Survey on Graph Neural Network Acceleration: Algorithms, Systems, and Customized Hardware
von: Zhang, Shichang, et al.
Veröffentlicht: (2023)

MAD Max Beyond Single-Node: Enabling Large Machine Learning Model Acceleration on Distributed Systems
von: Hsia, Samuel, et al.
Veröffentlicht: (2023)

Deep Reinforcement Learning based Online Scheduling Policy for Deep Neural Network Multi-Tenant Multi-Accelerator Systems
von: Blanco, Francesco G., et al.
Veröffentlicht: (2024)

Online GPU Energy Optimization with Switching-Aware Bandits
von: Xu, Xiongxiao, et al.
Veröffentlicht: (2024)

CMDS: Cross-layer Dataflow Optimization for DNN Accelerators Exploiting Multi-bank Memories
von: Shi, Man, et al.
Veröffentlicht: (2024)

Hierarchical Resource Partitioning on Modern GPUs: A Reinforcement Learning Approach
von: Saroliya, Urvij, et al.
Veröffentlicht: (2024)

Llumnix: Dynamic Scheduling for Large Language Model Serving
von: Sun, Biao, et al.
Veröffentlicht: (2024)

FastGL: A GPU-Efficient Framework for Accelerating Sampling-Based GNN Training at Large Scale
von: Zhu, Zeyu, et al.
Veröffentlicht: (2024)

The Feasibility of Implementing Large-Scale Transformers on Multi-FPGA Platforms
von: Gao, Yu, et al.
Veröffentlicht: (2024)

Performance Modeling and Workload Analysis of Distributed Large Language Model Training and Inference
von: Kundu, Joyjit, et al.
Veröffentlicht: (2024)

Integrated Hardware Architecture and Device Placement Search
von: Wang, Irene, et al.
Veröffentlicht: (2024)

Efficient, VRAM-Constrained xLM Inference on Clients
von: Ukarande, Aditya, et al.
Veröffentlicht: (2026)

Accelerating Recommender Model ETL with a Streaming FPGA-GPU Dataflow
von: Zhu, Yu, et al.
Veröffentlicht: (2025)

FlashMoE: Fast Distributed MoE in a Single Kernel
von: Aimuyo, Osayamen Jonathan, et al.
Veröffentlicht: (2025)

Observation, Not Prediction: Conversation-Level Disaggregated Scheduling for Agentic Serving
von: Ding, Jianru, et al.
Veröffentlicht: (2026)

F-BFQ: Flexible Block Floating-Point Quantization Accelerator for LLMs
von: Haris, Jude, et al.
Veröffentlicht: (2025)

SPAD: Specialized Prefill and Decode Hardware for Disaggregated LLM Inference
von: Zhang, Hengrui, et al.
Veröffentlicht: (2025)

WWW: What, When, Where to Compute-in-Memory
von: Sharma, Tanvi, et al.
Veröffentlicht: (2023)

MATCHA: Efficient Deployment of Deep Neural Networks on Multi-Accelerator Heterogeneous Edge SoCs
von: Russo, Enrico, et al.
Veröffentlicht: (2026)

FedUHD: Unsupervised Federated Learning using Hyperdimensional Computing
von: Lee, You Hak, et al.
Veröffentlicht: (2025)

INR-Arch: A Dataflow Architecture and Compiler for Arbitrary-Order Gradient Computations in Implicit Neural Representation Processing
von: Abi-Karam, Stefan, et al.
Veröffentlicht: (2023)

Design Space Exploration of DMA based Finer-Grain Compute Communication Overlap
von: Pal, Shagnik, et al.
Veröffentlicht: (2025)

Accelerated Execution of Bayesian Neural Networks using a Single Probabilistic Forward Pass and Code Generation
von: Klein, Bernhard, et al.
Veröffentlicht: (2025)

An End-to-End DNN Inference Framework for the SpiNNaker2 Neuromorphic MPSoC
von: Jobst, Matthias, et al.
Veröffentlicht: (2025)

Accelerating Transposed Convolutions on FPGA-based Edge Devices
von: Haris, Jude, et al.
Veröffentlicht: (2025)

JExplore: Design Space Exploration Tool for Nvidia Jetson Boards
von: Kutukcu, Basar, et al.
Veröffentlicht: (2025)

Exploring Parallelism in FPGA-Based Accelerators for Machine Learning Applications
von: Centeno, Sed, et al.
Veröffentlicht: (2025)

Optimizing Attention on GPUs by Exploiting GPU Architectural NUMA Effects
von: Choudhary, Mansi, et al.
Veröffentlicht: (2025)

TT-Edge: A Hardware-Software Co-Design for Energy-Efficient Tensor-Train Decomposition on Edge AI
von: Kwak, Hyunseok, et al.
Veröffentlicht: (2025)

Towards Compute-Aware In-Switch Computing for LLMs Tensor-Parallelism on Multi-GPU Systems
von: Zhang, Chen, et al.
Veröffentlicht: (2026)