Buchumschlag

CuBridge: An LLM-Based Framework for Understanding and Reconstructing High-Performance Attention Kernels

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ma, Xing, Zhou, Yangjie, Sun, Wu, Liu, Zihan, Leng, Jingwen, Lin, Yun, Sun, Shixuan, Guo, Minyi, Dong, Jin Song
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

DASH: Deterministic Attention Scheduling for High-throughput Reproducible LLM Training
von: Qiang, Xinwei, et al.
Veröffentlicht: (2026)

ClusterFusion: Expanding Operator Fusion Scope for LLM Inference via Cluster-Level Collective Primitive
von: Luo, Xinhao, et al.
Veröffentlicht: (2025)

Yggdrasil: Bridging Dynamic Speculation and Static Runtime for Latency-Optimal Tree-Based LLM Decoding
von: Guan, Yue, et al.
Veröffentlicht: (2025)

Design the Quantum Instruction Set with the Cartan Coordinate Analysis Framework
von: Wu, Anbang, et al.
Veröffentlicht: (2024)

VQ-LLM: High-performance Code Generation for Vector Quantization Augmented LLM Inference
von: Liu, Zihan, et al.
Veröffentlicht: (2025)

FlashFuser: Expanding the Scale of Kernel Fusion for Compute-Intensive Operators via Inter-Core Connection
von: Huang, Ziyu, et al.
Veröffentlicht: (2025)

Lumina: Real-Time Mobile Neural Rendering by Exploiting Computational Redundancy
von: Feng, Yu, et al.
Veröffentlicht: (2025)

eLLM: Elastic Memory Management Framework for Efficient LLM Serving
von: Xu, Jiale, et al.
Veröffentlicht: (2025)

LiquidGEMM: Hardware-Efficient W4A8 GEMM Kernel for High-Performance LLM Serving
von: Hu, Huanqi, et al.
Veröffentlicht: (2025)

Cicero: Addressing Algorithmic and Architectural Bottlenecks in Neural Rendering by Radiance Warping and Memory Optimizations
von: Feng, Yu, et al.
Veröffentlicht: (2024)

vTensor: Flexible Virtual Tensor Management for Efficient LLM Serving
von: Xu, Jiale, et al.
Veröffentlicht: (2024)

InfiniLoRA: Disaggregated Multi-LoRA Serving for Large Language Models
von: Chen, Hongyu, et al.
Veröffentlicht: (2026)

SeeLe: A Unified Acceleration Framework for Real-Time Gaussian Splatting
von: Huang, Xiaotong, et al.
Veröffentlicht: (2025)

Towards High-Goodput LLM Serving with Prefill-decode Multiplexing
von: Chen, Yukang, et al.
Veröffentlicht: (2025)

SLTarch: Towards Scalable Point-Based Neural Rendering by Taming Workload Imbalance and Memory Irregularity
von: Li, Xingyang, et al.
Veröffentlicht: (2025)

gMatch: Fine-Grained and Hardware-Efficient Subgraph Matching on GPUs
von: Chen, Weitian, et al.
Veröffentlicht: (2026)

CuTeGen: An LLM-Based Agentic Framework for Generation and Optimization of High-Performance GPU Kernels using CuTe
von: Saba, Tara, et al.
Veröffentlicht: (2026)

Astraea: A Token-wise Acceleration Framework for Video Diffusion Transformers
von: Liu, Haosong, et al.
Veröffentlicht: (2025)

Understanding In-Context Learning on Structured Manifolds: Bridging Attention to Kernel Methods
von: Shen, Zhaiming, et al.
Veröffentlicht: (2025)

StreamGrid: Streaming Point Cloud Analytics via Compulsory Splitting and Deterministic Termination
von: Feng, Yu, et al.
Veröffentlicht: (2025)

Potamoi: Accelerating Neural Rendering via a Unified Streaming Architecture
von: Feng, Yu, et al.
Veröffentlicht: (2024)

On Distributionally Robust Multistage Convex Optimization: Data-driven Models and Performance
von: Zhang, Shixuan, et al.
Veröffentlicht: (2022)

M-ANT: Efficient Low-bit Group Quantization for LLMs via Mathematically Adaptive Numerical Type
von: Hu, Weiming, et al.
Veröffentlicht: (2025)

Visible‐Light‐Induced Deaminative Alkylation for the Synthesis of Chroman‐4‐One Derivatives via EDA Complexes
von: Jinke Yan, et al.
Veröffentlicht: (2024)

Gumbel Reranking: Differentiable End-to-End Reranker Optimization
von: Huang, Siyuan, et al.
Veröffentlicht: (2025)

Towards Fast Setup and High Throughput of GPU Serverless Computing
von: Zhao, Han, et al.
Veröffentlicht: (2024)

SparseTem: Boosting the Efficiency of CNN-Based Video Encoders by Exploiting Temporal Continuity
von: Wang, Kunyun, et al.
Veröffentlicht: (2024)

Splatonic: Architecture Support for 3D Gaussian Splatting SLAM via Sparse Processing
von: Huang, Xiaotong, et al.
Veröffentlicht: (2025)

Ragged Paged Attention: A High-Performance and Flexible LLM Inference Kernel for TPU
von: Jiang, Jevin, et al.
Veröffentlicht: (2026)

Automated Kernel Discovery Towards Understanding High-dimensional Bayesian Optimization
von: Yun, Taeyoung, et al.
Veröffentlicht: (2026)

FlowWalker: A Memory-efficient and High-performance GPU-based Dynamic Graph Random Walk Framework
von: Mei, Junyi, et al.
Veröffentlicht: (2024)

Efficient Serving of LLM Applications with Probabilistic Demand Modeling
von: Liu, Yifei, et al.
Veröffentlicht: (2025)

Zero-Shot Detection of LLM-Generated Text using Token Cohesiveness
von: Ma, Shixuan, et al.
Veröffentlicht: (2024)

Accelerating Sparse DNNs Based on Tiled GEMM
von: Guo, Cong, et al.
Veröffentlicht: (2024)

GMLake: Efficient and Transparent GPU Memory Defragmentation for Large-scale DNN Training with Virtual Memory Stitching
von: Guo, Cong, et al.
Veröffentlicht: (2024)

Pathways to High Corporate Environmental Responsibility: A Fuzzy‐Set and Necessary Condition Analysis
von: Yangjie Huang, et al.
Veröffentlicht: (2025)

Heterogeneous Mean Field Game Framework for LEO Satellite-Assisted V2X Networks
von: Sun, Kangkang, et al.
Veröffentlicht: (2026)

Understanding Users' Privacy Perceptions Towards LLM's RAG-based Memory
von: Zhang, Shuning, et al.
Veröffentlicht: (2025)

An LLM-LVLM Driven Agent for Iterative and Fine-Grained Image Editing
von: Liang, Zihan, et al.
Veröffentlicht: (2025)

An Efficient Private GPT Never Autoregressively Decodes
von: Li, Zhengyi, et al.
Veröffentlicht: (2025)