Salvato in:
| Autori principali: | Lee, Jungi, Lee, Wonbeom, Sim, Jaewoong |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2406.12930 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
MX+: Pushing the Limits of Microscaling Formats for Efficient Large Language Model Serving
di: Lee, Jungi, et al.
Pubblicazione: (2025)
di: Lee, Jungi, et al.
Pubblicazione: (2025)
GRTX: Efficient Ray Tracing for 3D Gaussian-Based Rendering
di: Lee, Junseo, et al.
Pubblicazione: (2026)
di: Lee, Junseo, et al.
Pubblicazione: (2026)
MoNDE: Mixture of Near-Data Experts for Large-Scale Sparse Models
di: Kim, Taehyun, et al.
Pubblicazione: (2024)
di: Kim, Taehyun, et al.
Pubblicazione: (2024)
InfiniGen: Efficient Generative Inference of Large Language Models with Dynamic KV Cache Management
di: Lee, Wonbeom, et al.
Pubblicazione: (2024)
di: Lee, Wonbeom, et al.
Pubblicazione: (2024)
Efficient Arbitrary Precision Acceleration for Large Language Models on GPU Tensor Cores
di: Ma, Shaobo, et al.
Pubblicazione: (2024)
di: Ma, Shaobo, et al.
Pubblicazione: (2024)
Pimba: A Processing-in-Memory Acceleration for Post-Transformer Large Language Model Serving
di: Kim, Wonung, et al.
Pubblicazione: (2025)
di: Kim, Wonung, et al.
Pubblicazione: (2025)
SCRec: A Scalable Computational Storage System with Statistical Sharding and Tensor-train Decomposition for Recommendation Models
di: Yang, Jinho, et al.
Pubblicazione: (2025)
di: Yang, Jinho, et al.
Pubblicazione: (2025)
GFormer: Accelerating Large Language Models with Optimized Transformers on Gaudi Processors
di: Zhang, Chengming, et al.
Pubblicazione: (2024)
di: Zhang, Chengming, et al.
Pubblicazione: (2024)
Large Language Model Inference Acceleration: A Comprehensive Hardware Perspective
di: Li, Jinhao, et al.
Pubblicazione: (2024)
di: Li, Jinhao, et al.
Pubblicazione: (2024)
GPT4AIGChip: Towards Next-Generation AI Accelerator Design Automation via Large Language Models
di: Fu, Yonggan, et al.
Pubblicazione: (2023)
di: Fu, Yonggan, et al.
Pubblicazione: (2023)
Accelerating Sparse Graph Neural Networks with Tensor Core Optimization
di: Wu, Ka Wai
Pubblicazione: (2024)
di: Wu, Ka Wai
Pubblicazione: (2024)
Accelerating Neural Networks for Large Language Models and Graph Processing with Silicon Photonics
di: Afifi, Salma, et al.
Pubblicazione: (2024)
di: Afifi, Salma, et al.
Pubblicazione: (2024)
AI Accelerators for Large Language Model Inference: Architecture Analysis and Scaling Strategies
di: Sharma, Amit
Pubblicazione: (2025)
di: Sharma, Amit
Pubblicazione: (2025)
FLAASH: Flexible Accelerator Architecture for Sparse High-Order Tensor Contraction
di: Kulp, Gabriel, et al.
Pubblicazione: (2024)
di: Kulp, Gabriel, et al.
Pubblicazione: (2024)
A Runtime-Adaptive Transformer Neural Network Accelerator on FPGAs
di: Kabir, Ehsan, et al.
Pubblicazione: (2024)
di: Kabir, Ehsan, et al.
Pubblicazione: (2024)
Token-Picker: Accelerating Attention in Text Generation with Minimized Memory Transfer via Probability Estimation
di: Park, Junyoung, et al.
Pubblicazione: (2024)
di: Park, Junyoung, et al.
Pubblicazione: (2024)
InstantFT: An FPGA-Based Runtime Subsecond Fine-tuning of CNN Models
di: Sugiura, Keisuke, et al.
Pubblicazione: (2025)
di: Sugiura, Keisuke, et al.
Pubblicazione: (2025)
Memory Is All You Need: An Overview of Compute-in-Memory Architectures for Accelerating Large Language Model Inference
di: Wolters, Christopher, et al.
Pubblicazione: (2024)
di: Wolters, Christopher, et al.
Pubblicazione: (2024)
Smart-Infinity: Fast Large Language Model Training using Near-Storage Processing on a Real System
di: Jang, Hongsun, et al.
Pubblicazione: (2024)
di: Jang, Hongsun, et al.
Pubblicazione: (2024)
LLM-Aided Compilation for Tensor Accelerators
di: Hong, Charles, et al.
Pubblicazione: (2024)
di: Hong, Charles, et al.
Pubblicazione: (2024)
Duplex: A Device for Large Language Models with Mixture of Experts, Grouped Query Attention, and Continuous Batching
di: Yun, Sungmin, et al.
Pubblicazione: (2024)
di: Yun, Sungmin, et al.
Pubblicazione: (2024)
Basis Selection: Low-Rank Decomposition of Pretrained Large Language Models for Target Applications
di: Li, Yang, et al.
Pubblicazione: (2024)
di: Li, Yang, et al.
Pubblicazione: (2024)
LEGO: Spatial Accelerator Generation and Optimization for Tensor Applications
di: Lin, Yujun, et al.
Pubblicazione: (2025)
di: Lin, Yujun, et al.
Pubblicazione: (2025)
OPAL: Outlier-Preserved Microscaling Quantization Accelerator for Generative Large Language Models
di: Koo, Jahyun, et al.
Pubblicazione: (2024)
di: Koo, Jahyun, et al.
Pubblicazione: (2024)
GCoD: Graph Convolutional Network Acceleration via Dedicated Algorithm and Accelerator Co-Design
di: You, Haoran, et al.
Pubblicazione: (2021)
di: You, Haoran, et al.
Pubblicazione: (2021)
TCL: Enabling Fast and Efficient Cross-Hardware Tensor Program Optimization via Continual Learning
di: Shen, Chaoyao, et al.
Pubblicazione: (2026)
di: Shen, Chaoyao, et al.
Pubblicazione: (2026)
LLM-USO: Large Language Model-based Universal Sizing Optimizer
di: S, Karthik Somayaji N., et al.
Pubblicazione: (2025)
di: S, Karthik Somayaji N., et al.
Pubblicazione: (2025)
APT-LLM: Exploiting Arbitrary-Precision Tensor Core Computing for LLM Acceleration
di: Ma, Shaobo, et al.
Pubblicazione: (2025)
di: Ma, Shaobo, et al.
Pubblicazione: (2025)
EVA: Accelerating LLM Decoding via an Efficient Vector Quantization Architecture
di: Duan, Bowen, et al.
Pubblicazione: (2026)
di: Duan, Bowen, et al.
Pubblicazione: (2026)
SNIP: An Adaptive Mixed Precision Framework for Subbyte Large Language Model Training
di: Pan, Yunjie, et al.
Pubblicazione: (2026)
di: Pan, Yunjie, et al.
Pubblicazione: (2026)
Periodic Online Testing for Sparse Systolic Tensor Arrays
di: Peltekis, Christodoulos, et al.
Pubblicazione: (2025)
di: Peltekis, Christodoulos, et al.
Pubblicazione: (2025)
Ditto: Accelerating Diffusion Model via Temporal Value Similarity
di: Kim, Sungbin, et al.
Pubblicazione: (2025)
di: Kim, Sungbin, et al.
Pubblicazione: (2025)
Accelerating Diffusion Models for Generative AI Applications with Silicon Photonics
di: Suresh, Tharini, et al.
Pubblicazione: (2026)
di: Suresh, Tharini, et al.
Pubblicazione: (2026)
Hardware-Efficient Photonic Tensor Core: Accelerating Deep Neural Networks with Structured Compression
di: Ning, Shupeng, et al.
Pubblicazione: (2025)
di: Ning, Shupeng, et al.
Pubblicazione: (2025)
Memory Access Characterization of Large Language Models in CPU Environment and its Potential Impacts
di: Banasik, Spencer
Pubblicazione: (2025)
di: Banasik, Spencer
Pubblicazione: (2025)
LLM4DV: Using Large Language Models for Hardware Test Stimuli Generation
di: Zhang, Zixi, et al.
Pubblicazione: (2023)
di: Zhang, Zixi, et al.
Pubblicazione: (2023)
ESACT: An End-to-End Sparse Accelerator for Compute-Intensive Transformers via Local Similarity
di: Liu, Hongxiang, et al.
Pubblicazione: (2025)
di: Liu, Hongxiang, et al.
Pubblicazione: (2025)
DOSA: Differentiable Model-Based One-Loop Search for DNN Accelerators
di: Hong, Charles, et al.
Pubblicazione: (2025)
di: Hong, Charles, et al.
Pubblicazione: (2025)
ReducedLUT: Table Decomposition with "Don't Care" Conditions
di: Cassidy, Oliver, et al.
Pubblicazione: (2024)
di: Cassidy, Oliver, et al.
Pubblicazione: (2024)
DaCapo: Accelerating Continuous Learning in Autonomous Systems for Video Analytics
di: Kim, Yoonsung, et al.
Pubblicazione: (2024)
di: Kim, Yoonsung, et al.
Pubblicazione: (2024)
Documenti analoghi
-
MX+: Pushing the Limits of Microscaling Formats for Efficient Large Language Model Serving
di: Lee, Jungi, et al.
Pubblicazione: (2025) -
GRTX: Efficient Ray Tracing for 3D Gaussian-Based Rendering
di: Lee, Junseo, et al.
Pubblicazione: (2026) -
MoNDE: Mixture of Near-Data Experts for Large-Scale Sparse Models
di: Kim, Taehyun, et al.
Pubblicazione: (2024) -
InfiniGen: Efficient Generative Inference of Large Language Models with Dynamic KV Cache Management
di: Lee, Wonbeom, et al.
Pubblicazione: (2024) -
Efficient Arbitrary Precision Acceleration for Large Language Models on GPU Tensor Cores
di: Ma, Shaobo, et al.
Pubblicazione: (2024)