Buchumschlag

PIMphony: Overcoming Bandwidth and Capacity Inefficiency in PIM-based Long-Context LLM Inference System

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kwon, Hyucksung, Koo, Kyungmo, Kim, Janghyeon, Lee, Woongkyu, Lee, Minjae, Jung, Gyeonggeun, Lee, Hyungdeok, Jung, Yousub, Park, Jaehan, Song, Yosub, Yang, Byeongsu, Choi, Haerang, Kim, Guhyun, Won, Jongsoon, Shin, Woojae, Kim, Changhyun, Shin, Gyeongcheol, Kwon, Yongkee, Kim, Ilkon, Lim, Euicheol, Kim, John, Choi, Jungwook
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Hardware Architecture Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

IANUS: Integrated Accelerator based on NPU-PIM Unified Memory System
von: Seo, Minseok, et al.
Veröffentlicht: (2024)

Darwin: A DRAM-based Multi-level Processing-in-Memory Architecture for Data Analytics
von: Kim, Donghyuk, et al.
Veröffentlicht: (2023)

MapCoder-Lite: Distilling Multi-Agent Coding into a Single Small LLM
von: Lee, Woongkyu, et al.
Veröffentlicht: (2025)

Self-Guided Target Sound Extraction and Classification Through Universal Sound Separation Model and Multiple Clues
von: Kwon, Younghoo, et al.
Veröffentlicht: (2025)

Learning Point Cloud Geometry as a Statistical Manifold: Theory and Practice
von: Lee, Jinwoo, et al.
Veröffentlicht: (2026)

Multi-Modal Guided Multi-Source Domain Adaptation for Object Detection
von: Lee, Sangin, et al.
Veröffentlicht: (2026)

Scalable Processing-Near-Memory for 1M-Token LLM Inference: CXL-Enabled KV-Cache Management Beyond GPU Limits
von: Kim, Dowon, et al.
Veröffentlicht: (2025)

MORPHOS: Autoregressive 4D Generation with Temporal Structured Latents
von: Kwon, Minkyung, et al.
Veröffentlicht: (2026)

Safeguard Text-to-Image Diffusion Models with Human Feedback Inversion
von: Kim, Sanghyun, et al.
Veröffentlicht: (2024)

RAPID: Robust and Agile Planner Using Inverse Reinforcement Learning for Vision-Based Drone Navigation
von: Kim, Minwoo, et al.
Veröffentlicht: (2025)

Rethinking Channel Dimensions to Isolate Outliers for Low-bit Weight Quantization of Large Language Models
von: Heo, Jung Hwan, et al.
Veröffentlicht: (2023)

FlexRound: Learnable Rounding based on Element-wise Division for Post-Training Quantization
von: Lee, Jung Hyun, et al.
Veröffentlicht: (2023)

Theoretical Kinetic Study of SF 6 Decomposition via Reactions With H and OH Radicals
von: Naeun Kim, et al.
Veröffentlicht: (2025)

Suppressing Hole Accumulation Through Sub‐Nanometer Dipole Interfaces in Hybrid Perovskite/Organic Solar Cells for Boosting Near‐Infrared Photon Harvesting
von: Min‐Ho Lee, et al.
Veröffentlicht: (2024)

Effective Dataset Distillation for Spatio-Temporal Forecasting with Bi-dimensional Compression
von: Kwon, Taehyung, et al.
Veröffentlicht: (2026)

EP06.75: Analysis of prenatal ultrasound findings in neonates diagnosed with genetic disorders through next‐generation sequencing
von: S. Kim, et al.
Veröffentlicht: (2024)

Doppler Correspondence: Non-Iterative Scan Matching With Doppler Velocity-Based Correspondence
von: Kim, Jiwoo, et al.
Veröffentlicht: (2025)

The PTTG 1/ VASP axis promotes oral squamous cell carcinoma metastasis by modulating focal adhesion and actin filaments
von: Suyeon Park, et al.
Veröffentlicht: (2025)

Development and Application of a Species–Specific eDNA –Based qPCR Assay for Early Detection of the Invasive Ascidian Ascidiella aspersa
von: Jeounghee Lee, et al.
Veröffentlicht: (2025)

Multi-Behavior Recommender Systems: A Survey
von: Kim, Kyungho, et al.
Veröffentlicht: (2025)

Mg Doping Strategies for Ni‐Rich Layered Cathode Active Materials in Li‐Ion Batteries
von: Namho Koo, et al.
Veröffentlicht: (2026)

Hybrid-Vector Retrieval for Visually Rich Documents: Combining Single-Vector Efficiency and Multi-Vector Accuracy
von: Kim, Juyeon, et al.
Veröffentlicht: (2025)

GainAdaptor: Learning Quadrupedal Locomotion with Dual Actors for Adaptable and Energy-Efficient Walking on Various Terrains
von: Kim, Mincheol, et al.
Veröffentlicht: (2024)

Anomaly as Non-Conformity via Training-Free Graph Laplacian Energy Minimization
von: Seo, Jungwook, et al.
Veröffentlicht: (2026)

Inter-channel Conv-TasNet for multichannel speech enhancement
von: Lee, Dongheon, et al.
Veröffentlicht: (2021)

LUT-GEMM: Quantized Matrix Multiplication based on LUTs for Efficient Inference in Large-Scale Generative Language Models
von: Park, Gunho, et al.
Veröffentlicht: (2022)

Woojae Kim
von: Woojae Kim
Veröffentlicht: (2025)

Woojae Kim
von: Woojae Kim
Veröffentlicht: (2025)

Freeform thin‐film lithium niobate mode converter for photon‐pair generation
von: Changhyun Kim, et al.
Veröffentlicht: (2025)

Ionizing radiation inhibits zebrafish embryo hatching through induction of tissue inhibitors of metalloproteinases ( TIMP s) expression
von: Eun Jung Kwon, et al.
Veröffentlicht: (2024)

Cross-Modal Emotion Transfer for Emotion Editing in Talking Face Video
von: Choi, Chanhyuk, et al.
Veröffentlicht: (2026)

An Inquiry into Datacenter TCO for LLM Inference with FP8
von: Kim, Jiwoo, et al.
Veröffentlicht: (2025)

Coordination Engineering of N, O Co‐Doped Cu Single Atom on Porous Carbon for High Performance Zinc Metal Anodes
von: Kyungbin Lee, et al.
Veröffentlicht: (2024)

EP01.18: Automatic fetal nuchal translucency measurement using deep learning‐based three‐dimensional segmentation network in non‐supine positioned fetus
von: H. Hur, et al.
Veröffentlicht: (2024)

Moderately Solvating Electrolyte with Fluorinated Cosolvents for Lean‐Electrolyte Li–S Batteries
von: Ilju Kim, et al.
Veröffentlicht: (2024)

Soft Alkali Metal Nitrate Additive for Lean Electrolyte Li‐S Batteries
von: Ilju Kim, et al.
Veröffentlicht: (2026)

Safety Alignment Backfires: Preventing the Re-emergence of Suppressed Concepts in Fine-tuned Text-to-Image Diffusion Models
von: Kim, Sanghyun, et al.
Veröffentlicht: (2024)

Immunometabolic Signatures in Chronic DILI: An Integrated and Translational Perspective
von: Semin Lee, et al.
Veröffentlicht: (2025)

Effective Field Theory of a Noncollinear Altermagnet
von: Lee, Seungho, et al.
Veröffentlicht: (2025)

Learning Quadrupedal Locomotion with Impaired Joints Using Random Joint Masking
von: Kim, Mincheol, et al.
Veröffentlicht: (2024)