Buchumschlag

Optimal Software Pipelining and Warp Specialization for Tensor Core GPUs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Soi, Rupanshu, Yadav, Rohan, Kjolstad, Fredrik, Aiken, Alex, Dehnavi, Maryam Mehri, Garland, Michael, Bauer, Michael
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Programming Languages Hardware Architecture Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Tawa: Automatic Warp Specialization for Modern GPUs with Asynchronous References
von: Chen, Hongzheng, et al.
Veröffentlicht: (2025)

Task-Based Tensor Computations on Modern GPUs
von: Yadav, Rohan, et al.
Veröffentlicht: (2025)

FuseFlow: A Fusion-Centric Compilation Framework for Sparse Deep Learning on Streaming Dataflow
von: Lacouture, Rubens, et al.
Veröffentlicht: (2025)

Revet: A Language and Compiler for Dataflow Threads
von: Rucker, Alexander, et al.
Veröffentlicht: (2023)

Hardware vs. Software Implementation of Warp-Level Features in Vortex RISC-V GPU
von: Pu, Huanzhi, et al.
Veröffentlicht: (2025)

Privacy-Preserving Performance Profiling of In-The-Wild GPUs
von: McDougall, Ian, et al.
Veröffentlicht: (2025)

ACT: Automatically Generating Compiler Backends from Tensor Accelerator ISA Descriptions
von: Jain, Devansh, et al.
Veröffentlicht: (2025)

Control Flow Management in Modern GPUs
von: Shoushtary, Mojtaba Abaie, et al.
Veröffentlicht: (2024)

A Systematic Characterization of LLM Inference on GPUs
von: Wang, Haonan, et al.
Veröffentlicht: (2025)

LLM-Aided Compilation for Tensor Accelerators
von: Hong, Charles, et al.
Veröffentlicht: (2024)

Aquas: Enhancing Domain Specialization through Holistic Hardware-Software Co-Optimization based on MLIR
von: Zou, Yuyang, et al.
Veröffentlicht: (2025)

Bandwidth-Effective DRAM Cache for GPUs with Storage-Class Memory
von: Hong, Jeongmin, et al.
Veröffentlicht: (2024)

Scaling Photonic Tensor Cores with Unary and Homodyne Designs
von: Alo, Oluwaseun, et al.
Veröffentlicht: (2026)

Fleet: Hierarchical Task-based Abstraction for Megakernels on Multi-Die GPUs
von: Chowdhary, Sangeeta, et al.
Veröffentlicht: (2026)

Streaming Tensor Programs: A Streaming Abstraction for Dynamic Parallelism
von: Sohn, Gina, et al.
Veröffentlicht: (2025)

SSR: Spatial Sequential Hybrid Architecture for Latency Throughput Tradeoff in Transformer Acceleration
von: Zhuang, Jinming, et al.
Veröffentlicht: (2024)

Virgo: Cluster-level Matrix Unit Integration in GPUs for Scalability and Energy Efficiency
von: Kim, Hansung, et al.
Veröffentlicht: (2024)

CarbonSet: A Dataset to Analyze Trends and Benchmark the Sustainability of CPUs and GPUs
von: Hu, Jiajun, et al.
Veröffentlicht: (2025)

TeAAL: A Declarative Framework for Modeling Sparse Tensor Accelerators
von: Nayak, Nandeeka, et al.
Veröffentlicht: (2023)

On the Duality of Task and Actor Programming Models
von: Yadav, Rohan, et al.
Veröffentlicht: (2025)

Evaluating CUDA Tile for AI Workloads on Hopper and Blackwell GPUs
von: Yadav, Divakar Kumar, et al.
Veröffentlicht: (2026)

PHAROS: Pipelined Heterogeneous Accelerators for Real-time Safety-critical Systems With Deadline Compliance
von: Ji, Shixin, et al.
Veröffentlicht: (2026)

A Fully-Configurable Open-Source Software-Defined Digital Quantized Spiking Neural Core Architecture
von: Matinizadeh, Shadi, et al.
Veröffentlicht: (2024)

StreamTensor: Make Tensors Stream in Dataflow Accelerators for LLMs
von: Ye, Hanchen, et al.
Veröffentlicht: (2025)

WaSP: Warp Scheduling to Mimic Prefetching in Graphics Workloads
von: Joseph, Diya, et al.
Veröffentlicht: (2024)

Study on the Particle Sorting Performance for Reactor Monte Carlo Neutron Transport on Apple Unified Memory GPUs
von: Liu, Changyuan
Veröffentlicht: (2024)

Securing Cryptographic Software via Typed Assembly Language (Extended Version)
von: Song, Shixin, et al.
Veröffentlicht: (2025)

Approximate Computing Survey, Part I: Terminology and Software & Hardware Approximation Techniques
von: Leon, Vasileios, et al.
Veröffentlicht: (2023)

Kitsune: Enabling Dataflow Execution on GPUs
von: Davies, Michael, et al.
Veröffentlicht: (2025)

Sustainable Hardware Specialization
von: Dangi, Pranav, et al.
Veröffentlicht: (2024)

GEMM-GS: Accelerating 3D Gaussian Splatting on Tensor Cores with GEMM-Compatible Blending
von: Li, Haomin, et al.
Veröffentlicht: (2026)

JugglePAC: A Pipelined Accumulation Circuit
von: Houraniah, Ahmad, et al.
Veröffentlicht: (2023)

Accelerating Sparse Graph Neural Networks with Tensor Core Optimization
von: Wu, Ka Wai
Veröffentlicht: (2024)

Tensor Manipulation Unit (TMU): Reconfigurable, Near-Memory Tensor Manipulation for High-Throughput AI SoC
von: Zhou, Weiyu, et al.
Veröffentlicht: (2025)

Switchable Single/Dual Edge Registers for Pipeline Architecture
von: Singh, Suyash Vardhan, et al.
Veröffentlicht: (2024)

Cicero: Addressing Algorithmic and Architectural Bottlenecks in Neural Rendering by Radiance Warping and Memory Optimizations
von: Feng, Yu, et al.
Veröffentlicht: (2024)

TensorPool: A 3D-Stacked 8.4TFLOPS/4.3W Many-Core Domain-Specific Processor for AI-Native Radio Access Networks
von: Bertuletti, Marco, et al.
Veröffentlicht: (2026)

Quantum Control Machine: The Limits of Control Flow in Quantum Programming
von: Yuan, Charles, et al.
Veröffentlicht: (2023)

Error Checking for Sparse Systolic Tensor Arrays
von: Peltekis, Christodoulos, et al.
Veröffentlicht: (2024)

RidgeWalker: Perfectly Pipelined Graph Random Walks on FPGAs
von: Tan, Hongshi, et al.
Veröffentlicht: (2026)