Canvas: End-to-End Kernel Architecture Search in Neural Networks
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Zhao, Chenggang, Zhang, Genghan, Shen, Ao, Gao, Mingyu |
|---|---|
| Format: | Preprint |
| Publié: |
2023
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Syno: Structured Synthesis for Neural Operators
par: Zhuo, Yongqi, et autres
Publié: (2024)
par: Zhuo, Yongqi, et autres
Publié: (2024)
Lightweight Software Kernels and Hardware Extensions for Efficient Sparse Deep Neural Networks on Microcontrollers
par: Daghero, Francesco, et autres
Publié: (2025)
par: Daghero, Francesco, et autres
Publié: (2025)
Record-Remix-Replay: Hierarchical GPU Kernel Optimization using Evolutionary Search
par: Nichols, Daniel, et autres
Publié: (2026)
par: Nichols, Daniel, et autres
Publié: (2026)
Agentic Plan Caching: Test-Time Memory for Fast and Cost-Efficient LLM Agents
par: Zhang, Qizheng, et autres
Publié: (2025)
par: Zhang, Qizheng, et autres
Publié: (2025)
GPU Kernel Optimization Beyond Full Builds: An LLM Framework with Minimal Executable Programs
par: Chu, Ruifan, et autres
Publié: (2025)
par: Chu, Ruifan, et autres
Publié: (2025)
Efficient Fault Localization in a Cloud Stack Using End-to-End Application Service Topology
par: Mathews, Dhanya R, et autres
Publié: (2025)
par: Mathews, Dhanya R, et autres
Publié: (2025)
LServe: Efficient Long-sequence LLM Serving with Unified Sparse Attention
par: Yang, Shang, et autres
Publié: (2025)
par: Yang, Shang, et autres
Publié: (2025)
MQ-GNN: A Multi-Queue Pipelined Architecture for Scalable and Efficient GNN Training
par: Ullah, Irfan, et autres
Publié: (2026)
par: Ullah, Irfan, et autres
Publié: (2026)
The Illusion of Power Capping in LLM Decode: A Phase-Aware Energy Characterisation Across Attention Architectures
par: Ma, Bole, et autres
Publié: (2026)
par: Ma, Bole, et autres
Publié: (2026)
ExpertFlow: Adaptive Expert Scheduling and Memory Coordination for Efficient MoE Inference
par: Shen, Zixu, et autres
Publié: (2025)
par: Shen, Zixu, et autres
Publié: (2025)
OMPILOT: Harnessing Transformer Models for Auto Parallelization to Shared Memory Computing Paradigms
par: Bhattacharjee, Arijit, et autres
Publié: (2025)
par: Bhattacharjee, Arijit, et autres
Publié: (2025)
LOOPRAG: Enhancing Loop Transformation Optimization with Retrieval-Augmented Large Language Models
par: Zhi, Yijie, et autres
Publié: (2025)
par: Zhi, Yijie, et autres
Publié: (2025)
TrainMover: An Interruption-Resilient Runtime for ML Training
par: Lao, ChonLam, et autres
Publié: (2024)
par: Lao, ChonLam, et autres
Publié: (2024)
Reliable Microservice Tail Latency Prediction via Decoupled Dual-Stream Learning and Gradient Modulation
par: Qian, Wenzhuo, et autres
Publié: (2025)
par: Qian, Wenzhuo, et autres
Publié: (2025)
GhostServe: A Lightweight Checkpointing System in the Shadow for Fault-Tolerant LLM Serving
par: Jayakody, Shakya, et autres
Publié: (2026)
par: Jayakody, Shakya, et autres
Publié: (2026)
Rethinking Inference Placement for Deep Learning across Edge and Cloud Platforms: A Multi-Objective Optimization Perspective and Future Directions
par: Zhang, Zongshun, et autres
Publié: (2025)
par: Zhang, Zongshun, et autres
Publié: (2025)
AcceleratedKernels.jl: Cross-Architecture Parallel Algorithms from a Unified, Transpiled Codebase
par: Nicusan, Andrei-Leonard, et autres
Publié: (2025)
par: Nicusan, Andrei-Leonard, et autres
Publié: (2025)
Prompt-Aware Scheduling for Low-Latency LLM Serving
par: Tao, Yiheng, et autres
Publié: (2025)
par: Tao, Yiheng, et autres
Publié: (2025)
Towards Efficient Generative Large Language Model Serving: A Survey from Algorithms to Systems
par: Miao, Xupeng, et autres
Publié: (2023)
par: Miao, Xupeng, et autres
Publié: (2023)
Cost-Efficient LLM Training with Lifetime-Aware Tensor Offloading via GPUDirect Storage
par: Yuan, Ziqi, et autres
Publié: (2025)
par: Yuan, Ziqi, et autres
Publié: (2025)
STAlloc: Enhancing Memory Efficiency in Large-Scale Model Training with Spatio-Temporal Planning
par: Huang, Zixiao, et autres
Publié: (2025)
par: Huang, Zixiao, et autres
Publié: (2025)
Characterizing and Optimizing LLM Inference Workloads on CPU-GPU Coupled Architectures
par: Vellaisamy, Prabhu, et autres
Publié: (2025)
par: Vellaisamy, Prabhu, et autres
Publié: (2025)
E-QUARTIC: Energy Efficient Edge Ensemble of Convolutional Neural Networks for Resource-Optimized Learning
par: Zhang, Le, et autres
Publié: (2024)
par: Zhang, Le, et autres
Publié: (2024)
A 4D Hybrid Algorithm to Scale Parallel Training to Thousands of GPUs
par: Singh, Siddharth, et autres
Publié: (2023)
par: Singh, Siddharth, et autres
Publié: (2023)
Compiler-First State Space Duality and Portable $O(1)$ Autoregressive Caching for Inference
par: Santoni, Cosmo
Publié: (2026)
par: Santoni, Cosmo
Publié: (2026)
Multi-Dimensional Autoscaling of Stream Processing Services on Edge Devices
par: Sedlak, Boris, et autres
Publié: (2025)
par: Sedlak, Boris, et autres
Publié: (2025)
ProTrain: Efficient LLM Training via Memory-Aware Techniques
par: Yang, Hanmei, et autres
Publié: (2024)
par: Yang, Hanmei, et autres
Publié: (2024)
Low-Rank GEMM: Efficient Matrix Multiplication via Low-Rank Approximation with FP8 Acceleration
par: Metere, Alfredo
Publié: (2025)
par: Metere, Alfredo
Publié: (2025)
FastPersist: Accelerating Model Checkpointing in Deep Learning
par: Wang, Guanhua, et autres
Publié: (2024)
par: Wang, Guanhua, et autres
Publié: (2024)
Longer Attention Span: Increasing Transformer Context Length with Sparse Graph Processing Techniques
par: Tomczak, Nathaniel, et autres
Publié: (2025)
par: Tomczak, Nathaniel, et autres
Publié: (2025)
Mixture of Experts with Mixture of Precisions for Tuning Quality of Service
par: Imani, HamidReza, et autres
Publié: (2024)
par: Imani, HamidReza, et autres
Publié: (2024)
Training Time Prediction for Mixed Precision-based Distributed Training
par: Kang, Minchul, et autres
Publié: (2026)
par: Kang, Minchul, et autres
Publié: (2026)
Prism: Unleashing GPU Sharing for Cost-Efficient Multi-LLM Serving
par: Yu, Shan, et autres
Publié: (2025)
par: Yu, Shan, et autres
Publié: (2025)
Sometimes Painful but Certainly Promising: Feasibility and Trade-offs of Language Model Inference at the Edge
par: Abstreiter, Maximilian, et autres
Publié: (2025)
par: Abstreiter, Maximilian, et autres
Publié: (2025)
QPART: Adaptive Model Quantization and Dynamic Workload Balancing for Accuracy-aware Edge Inference
par: Li, Xiangchen, et autres
Publié: (2025)
par: Li, Xiangchen, et autres
Publié: (2025)
A Comparative Study of OpenMP Scheduling Algorithm Selection Strategies
par: Korndörfer, Jonas H. Müller, et autres
Publié: (2025)
par: Korndörfer, Jonas H. Müller, et autres
Publié: (2025)
Democratizing AI: A Comparative Study in Deep Learning Efficiency and Future Trends in Computational Processing
par: Amin, Lisan Al, et autres
Publié: (2026)
par: Amin, Lisan Al, et autres
Publié: (2026)
Optimizing the Deployment of Tiny Transformers on Low-Power MCUs
par: Jung, Victor J. B., et autres
Publié: (2024)
par: Jung, Victor J. B., et autres
Publié: (2024)
OSCAR: Offline Spectral Covariance-Aware Rotation for 2-bit KV Cache Quantization
par: Zhou, Zhongzhu, et autres
Publié: (2026)
par: Zhou, Zhongzhu, et autres
Publié: (2026)
Shared Memory-contention-aware Concurrent DNN Execution for Diversely Heterogeneous System-on-Chips
par: Dagli, Ismet, et autres
Publié: (2023)
par: Dagli, Ismet, et autres
Publié: (2023)
Documents similaires
-
Syno: Structured Synthesis for Neural Operators
par: Zhuo, Yongqi, et autres
Publié: (2024) -
Lightweight Software Kernels and Hardware Extensions for Efficient Sparse Deep Neural Networks on Microcontrollers
par: Daghero, Francesco, et autres
Publié: (2025) -
Record-Remix-Replay: Hierarchical GPU Kernel Optimization using Evolutionary Search
par: Nichols, Daniel, et autres
Publié: (2026) -
Agentic Plan Caching: Test-Time Memory for Fast and Cost-Efficient LLM Agents
par: Zhang, Qizheng, et autres
Publié: (2025) -
GPU Kernel Optimization Beyond Full Builds: An LLM Framework with Minimal Executable Programs
par: Chu, Ruifan, et autres
Publié: (2025)