From LLM to Silicon: RL-Driven ASIC Architecture Exploration for On-Device AI Inference
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Ganti, Ravindra, Xu, Steve |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Hardware-Aware Neural Network Compilation with Learned Optimization: A RISC-V Accelerator Approach
par: Ganti, Ravindra, et autres
Publié: (2025)
par: Ganti, Ravindra, et autres
Publié: (2025)
MPM-LLM4DSE: Reaching the Pareto Frontier in HLS with Multimodal Learning and LLM-Driven Exploration
par: Xu, Lei, et autres
Publié: (2026)
par: Xu, Lei, et autres
Publié: (2026)
On-Device Qwen2.5: Efficient LLM Inference with Model Compression and Hardware Acceleration
par: Xiang, Maoyang, et autres
Publié: (2025)
par: Xiang, Maoyang, et autres
Publié: (2025)
AI Accelerators for Large Language Model Inference: Architecture Analysis and Scaling Strategies
par: Sharma, Amit
Publié: (2025)
par: Sharma, Amit
Publié: (2025)
SHIELD: A Segmented Hierarchical Memory Architecture for Energy-Efficient LLM Inference on Edge NPUs
par: Zhang, Jintao, et autres
Publié: (2026)
par: Zhang, Jintao, et autres
Publié: (2026)
L3: DIMM-PIM Integrated Architecture and Coordination for Scalable Long-Context LLM Inference
par: Liu, Qingyuan, et autres
Publié: (2025)
par: Liu, Qingyuan, et autres
Publié: (2025)
Accelerating Diffusion Models for Generative AI Applications with Silicon Photonics
par: Suresh, Tharini, et autres
Publié: (2026)
par: Suresh, Tharini, et autres
Publié: (2026)
Designing Efficient LLM Accelerators for Edge Devices
par: Haris, Jude, et autres
Publié: (2024)
par: Haris, Jude, et autres
Publié: (2024)
PolyThrottle: Energy-efficient Neural Network Inference on Edge Devices
par: Yan, Minghao, et autres
Publié: (2023)
par: Yan, Minghao, et autres
Publié: (2023)
EVA: Accelerating LLM Decoding via an Efficient Vector Quantization Architecture
par: Duan, Bowen, et autres
Publié: (2026)
par: Duan, Bowen, et autres
Publié: (2026)
Huff-LLM: End-to-End Lossless Compression for Efficient LLM Inference
par: Yubeaton, Patrick, et autres
Publié: (2025)
par: Yubeaton, Patrick, et autres
Publié: (2025)
CHIME: Chiplet-based Heterogeneous Near-Memory Acceleration for Edge Multimodal LLM Inference
par: Chen, Yanru, et autres
Publié: (2025)
par: Chen, Yanru, et autres
Publié: (2025)
COBRA: Algorithm-Architecture Co-optimized Binary Transformer Accelerator for Edge Inference
par: Qiao, Ye, et autres
Publié: (2025)
par: Qiao, Ye, et autres
Publié: (2025)
KLLM: Fast LLM Inference with K-Means Quantization
par: Wu, Xueying, et autres
Publié: (2025)
par: Wu, Xueying, et autres
Publié: (2025)
Explainable Fuzzy Neural Network with Multi-Fidelity Reinforcement Learning for Micro-Architecture Design Space Exploration
par: Fan, Hanwei, et autres
Publié: (2024)
par: Fan, Hanwei, et autres
Publié: (2024)
Architectural Implications of Neural Network Inference for High Data-Rate, Low-Latency Scientific Applications
par: Weng, Olivia, et autres
Publié: (2024)
par: Weng, Olivia, et autres
Publié: (2024)
VeriCache: Turning Lossy KV Cache into Lossless LLM Inference
par: Yao, Jiayi, et autres
Publié: (2026)
par: Yao, Jiayi, et autres
Publié: (2026)
P3-LLM: An Integrated NPU-PIM Accelerator for Edge LLM Inference Using Hybrid Numerical Formats
par: Chen, Yuzong, et autres
Publié: (2025)
par: Chen, Yuzong, et autres
Publié: (2025)
Memory Is All You Need: An Overview of Compute-in-Memory Architectures for Accelerating Large Language Model Inference
par: Wolters, Christopher, et autres
Publié: (2024)
par: Wolters, Christopher, et autres
Publié: (2024)
M100: An Orchestrated Dataflow Architecture Powering General AI Computing
par: Xie, Yan, et autres
Publié: (2026)
par: Xie, Yan, et autres
Publié: (2026)
MiCo: End-to-End Mixed Precision Neural Network Co-Exploration Framework for Edge AI
par: Jiang, Zijun, et autres
Publié: (2025)
par: Jiang, Zijun, et autres
Publié: (2025)
A Data-Driven Approach to Dataflow-Aware Online Scheduling for Graph Neural Network Inference
par: Puigdemont, Pol, et autres
Publié: (2024)
par: Puigdemont, Pol, et autres
Publié: (2024)
FGMP: Fine-Grained Mixed-Precision Weight and Activation Quantization for Hardware-Accelerated LLM Inference
par: Hooper, Coleman, et autres
Publié: (2025)
par: Hooper, Coleman, et autres
Publié: (2025)
NAS-Cap: Deep-Learning Driven 3-D Capacitance Extraction with Neural Architecture Search and Data Augmentation
par: Li, Haoyuan, et autres
Publié: (2024)
par: Li, Haoyuan, et autres
Publié: (2024)
From Loop Nests to Silicon: Mapping AI Workloads onto AMD NPUs with MLIR-AIR
par: Wang, Erwei, et autres
Publié: (2025)
par: Wang, Erwei, et autres
Publié: (2025)
SoberDSE: Sample-Efficient Design Space Exploration via Learning-Based Algorithm Selection
par: Xu, Lei, et autres
Publié: (2026)
par: Xu, Lei, et autres
Publié: (2026)
Hardware Software Optimizations for Fast Model Recovery on Reconfigurable Architectures
par: Xu, Bin, et autres
Publié: (2025)
par: Xu, Bin, et autres
Publié: (2025)
LLM-based AI Agent for Sizing of Analog and Mixed Signal Circuit
par: Liu, Chang, et autres
Publié: (2025)
par: Liu, Chang, et autres
Publié: (2025)
The AetherFloat Family: Block-Scale-Free Quad-Radix Floating-Point Architectures for AI Accelerators
par: Morisaki, Keita
Publié: (2026)
par: Morisaki, Keita
Publié: (2026)
ZettaLith: An Architectural Exploration of Extreme-Scale AI Inference Acceleration
par: Silverbrook, Kia
Publié: (2025)
par: Silverbrook, Kia
Publié: (2025)
EEsizer: LLM-Based AI Agent for Sizing of Analog and Mixed Signal Circuit
par: Liu, Chang, et autres
Publié: (2025)
par: Liu, Chang, et autres
Publié: (2025)
PhotoGAN: Generative Adversarial Neural Network Acceleration with Silicon Photonics
par: Suresh, Tharini, et autres
Publié: (2025)
par: Suresh, Tharini, et autres
Publié: (2025)
T-SAR: A Full-Stack Co-design for CPU-Only Ternary LLM Inference via In-Place SIMD ALU Reorganization
par: Oh, Hyunwoo, et autres
Publié: (2025)
par: Oh, Hyunwoo, et autres
Publié: (2025)
Intelligent4DSE: Optimizing High-Level Synthesis Design Space Exploration with Graph Neural Networks and Large Language Models
par: Xu, Lei, et autres
Publié: (2025)
par: Xu, Lei, et autres
Publié: (2025)
Accelerating Neural Networks for Large Language Models and Graph Processing with Silicon Photonics
par: Afifi, Salma, et autres
Publié: (2024)
par: Afifi, Salma, et autres
Publié: (2024)
CuAsmRL: Optimizing GPU SASS Schedules via Deep Reinforcement Learning
par: He, Guoliang, et autres
Publié: (2025)
par: He, Guoliang, et autres
Publié: (2025)
Accelerating PoT Quantization on Edge Devices
par: Saha, Rappy, et autres
Publié: (2024)
par: Saha, Rappy, et autres
Publié: (2024)
Low-Energy On-Device Personalization for MCUs
par: Huang, Yushan, et autres
Publié: (2024)
par: Huang, Yushan, et autres
Publié: (2024)
From Principles to Practice: A Systematic Study of LLM Serving on Multi-core NPUs
par: Zhu, Tianhao, et autres
Publié: (2025)
par: Zhu, Tianhao, et autres
Publié: (2025)
Cambricon-LLM: A Chiplet-Based Hybrid Architecture for On-Device Inference of 70B LLM
par: Yu, Zhongkai, et autres
Publié: (2024)
par: Yu, Zhongkai, et autres
Publié: (2024)
Documents similaires
-
Hardware-Aware Neural Network Compilation with Learned Optimization: A RISC-V Accelerator Approach
par: Ganti, Ravindra, et autres
Publié: (2025) -
MPM-LLM4DSE: Reaching the Pareto Frontier in HLS with Multimodal Learning and LLM-Driven Exploration
par: Xu, Lei, et autres
Publié: (2026) -
On-Device Qwen2.5: Efficient LLM Inference with Model Compression and Hardware Acceleration
par: Xiang, Maoyang, et autres
Publié: (2025) -
AI Accelerators for Large Language Model Inference: Architecture Analysis and Scaling Strategies
par: Sharma, Amit
Publié: (2025) -
SHIELD: A Segmented Hierarchical Memory Architecture for Energy-Efficient LLM Inference on Edge NPUs
par: Zhang, Jintao, et autres
Publié: (2026)