A Zoned Storage Optimized Flash Cache on ZNS SSDs
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Yang, Chongzhuo, Guo, Chang, Zhao, Ming, Cao, Zhichao |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Eliminating the Hidden Cost of Zone Management in ZNS SSDs
von: Bagashvili, Teona, et al.
Veröffentlicht: (2025)
von: Bagashvili, Teona, et al.
Veröffentlicht: (2025)
Swarm: Co-Activation Aware KVCache Offloading Across Multiple SSDs
von: Wang, Tuowei, et al.
Veröffentlicht: (2026)
von: Wang, Tuowei, et al.
Veröffentlicht: (2026)
2DIO: A Cache-Accurate Storage Microbenchmark
von: Wang, Yirong, et al.
Veröffentlicht: (2026)
von: Wang, Yirong, et al.
Veröffentlicht: (2026)
Optimizing CPU Cache Utilization in Cloud VMs with Accurate Cache Abstraction
von: Tofigh, Mani, et al.
Veröffentlicht: (2025)
von: Tofigh, Mani, et al.
Veröffentlicht: (2025)
Can Increasing the Hit Ratio Hurt Cache Throughput? (Long Version)
von: Qiu, Ziyue, et al.
Veröffentlicht: (2024)
von: Qiu, Ziyue, et al.
Veröffentlicht: (2024)
Decentralized Edge Caching under Budget and Storage Constraints: A Game-Theoretic Approach
von: Sedghani, Hamta, et al.
Veröffentlicht: (2026)
von: Sedghani, Hamta, et al.
Veröffentlicht: (2026)
Block Sparse Flash Attention
von: Ohayon, Daniel, et al.
Veröffentlicht: (2025)
von: Ohayon, Daniel, et al.
Veröffentlicht: (2025)
The Unwritten Contract of Cloud-based Elastic Solid-State Drives
von: Wang, Yingjia, et al.
Veröffentlicht: (2025)
von: Wang, Yingjia, et al.
Veröffentlicht: (2025)
ClusterKV: Manipulating LLM KV Cache in Semantic Space for Recallable Compression
von: Liu, Guangda, et al.
Veröffentlicht: (2024)
von: Liu, Guangda, et al.
Veröffentlicht: (2024)
XRFlux: Virtual Reality Benchmark for Edge Caching Systems
von: Alfares, Nader, et al.
Veröffentlicht: (2024)
von: Alfares, Nader, et al.
Veröffentlicht: (2024)
The Design and Implementation of a High-Performance Log-Structured RAID System for ZNS SSDs
von: Li, Jinhong, et al.
Veröffentlicht: (2024)
von: Li, Jinhong, et al.
Veröffentlicht: (2024)
SparseX: Efficient Segment-Level KV Cache Sharing for Interleaved LLM Serving
von: Zhang, Quqing, et al.
Veröffentlicht: (2026)
von: Zhang, Quqing, et al.
Veröffentlicht: (2026)
BitDecoding: Unlocking Tensor Cores for Long-Context LLMs with Low-Bit KV Cache
von: Du, Dayou, et al.
Veröffentlicht: (2025)
von: Du, Dayou, et al.
Veröffentlicht: (2025)
Prefetching Cache Optimization Using Graph Neural Networks: A Modular Framework and Conceptual Analysis
von: Qowy, F. I.
Veröffentlicht: (2025)
von: Qowy, F. I.
Veröffentlicht: (2025)
One-Hop Sub-Query Result Caches for Graph Database Systems
von: Nguyen, Hieu, et al.
Veröffentlicht: (2024)
von: Nguyen, Hieu, et al.
Veröffentlicht: (2024)
FlashOmni: A Unified Sparse Attention Engine for Diffusion Transformers
von: Qiao, Liang, et al.
Veröffentlicht: (2025)
von: Qiao, Liang, et al.
Veröffentlicht: (2025)
The Bicameral Cache: a split cache for vector architectures
von: Rebolledo, Susana, et al.
Veröffentlicht: (2024)
von: Rebolledo, Susana, et al.
Veröffentlicht: (2024)
Enhancing Instruction Prefetching via Cache and TLB Management
von: Jamet, Alexandre Valentin, et al.
Veröffentlicht: (2026)
von: Jamet, Alexandre Valentin, et al.
Veröffentlicht: (2026)
Leveraging Speculative Sampling and KV-Cache Optimizations Together for Generative AI using OpenVINO
von: Barad, Haim, et al.
Veröffentlicht: (2023)
von: Barad, Haim, et al.
Veröffentlicht: (2023)
ALISA: Accelerating Large Language Model Inference via Sparsity-Aware KV Caching
von: Zhao, Youpeng, et al.
Veröffentlicht: (2024)
von: Zhao, Youpeng, et al.
Veröffentlicht: (2024)
FlashSVD: Memory-Efficient Inference with Streaming for Low-Rank Models
von: Shao, Zishan, et al.
Veröffentlicht: (2025)
von: Shao, Zishan, et al.
Veröffentlicht: (2025)
Implementing and Evaluating E2LSH on Storage
von: Nakanishi, Yu, et al.
Veröffentlicht: (2024)
von: Nakanishi, Yu, et al.
Veröffentlicht: (2024)
Analysis and Evaluation of Using Microsecond-Latency Memory for In-Memory Indices and Caches in SSD-Based Key-Value Stores
von: Bando, Yosuke, et al.
Veröffentlicht: (2025)
von: Bando, Yosuke, et al.
Veröffentlicht: (2025)
Faster LLM Inference using DBMS-Inspired Preemption and Cache Replacement Policies
von: Kim, Kyoungmin, et al.
Veröffentlicht: (2024)
von: Kim, Kyoungmin, et al.
Veröffentlicht: (2024)
Leveraging Approximate Caching for Faster Retrieval-Augmented Generation
von: Bergman, Shai, et al.
Veröffentlicht: (2025)
von: Bergman, Shai, et al.
Veröffentlicht: (2025)
Hold Onto That Thought: Assessing KV Cache Compression On Reasoning
von: Liu, Minghui, et al.
Veröffentlicht: (2025)
von: Liu, Minghui, et al.
Veröffentlicht: (2025)
GPU-Accelerated INT8 Quantization for KV Cache Compression in Large Language Models
von: Taneja, Maanas, et al.
Veröffentlicht: (2026)
von: Taneja, Maanas, et al.
Veröffentlicht: (2026)
Towards Efficient Flash Caches with Emerging NVMe Flexible Data Placement SSDs
von: Allison, Michael, et al.
Veröffentlicht: (2025)
von: Allison, Michael, et al.
Veröffentlicht: (2025)
When Quantization Is Free: An int4 KV Cache That Outruns fp16 on Apple Silicon
von: Bergach, Mohamed Amine
Veröffentlicht: (2026)
von: Bergach, Mohamed Amine
Veröffentlicht: (2026)
A Modular Graph-Native Query Optimization Framework
von: Lyu, Bingqing, et al.
Veröffentlicht: (2024)
von: Lyu, Bingqing, et al.
Veröffentlicht: (2024)
From Profiling to Optimization: Unveiling the Profile Guided Optimization
von: Liu, Bingxin, et al.
Veröffentlicht: (2025)
von: Liu, Bingxin, et al.
Veröffentlicht: (2025)
FlashSVD v1.5: Making Low-Rank Transformers Inference Actually Fast
von: Wu, Wenhao, et al.
Veröffentlicht: (2026)
von: Wu, Wenhao, et al.
Veröffentlicht: (2026)
MoE-Infinity: Efficient MoE Inference on Personal Machines with Sparsity-Aware Expert Cache
von: Xue, Leyang, et al.
Veröffentlicht: (2024)
von: Xue, Leyang, et al.
Veröffentlicht: (2024)
Machine Learning-Guided Memory Optimization for DLRM Inference on Tiered Memory
von: Ren, Jie, et al.
Veröffentlicht: (2025)
von: Ren, Jie, et al.
Veröffentlicht: (2025)
Atys: An Efficient Profiling Framework for Identifying Hotspot Functions in Large-scale Cloud Microservices
von: Sun, Jiaqi, et al.
Veröffentlicht: (2025)
von: Sun, Jiaqi, et al.
Veröffentlicht: (2025)
Using Evolutionary Algorithms to Find Cache-Friendly Generalized Morton Layouts for Arrays
von: Swatman, Stephen Nicholas, et al.
Veröffentlicht: (2023)
von: Swatman, Stephen Nicholas, et al.
Veröffentlicht: (2023)
KIVI: A Tuning-Free Asymmetric 2bit Quantization for KV Cache
von: Liu, Zirui, et al.
Veröffentlicht: (2024)
von: Liu, Zirui, et al.
Veröffentlicht: (2024)
Opal: A Modular Framework for Optimizing Performance using Analytics and LLMs
von: Zaeed, Mohammad, et al.
Veröffentlicht: (2025)
von: Zaeed, Mohammad, et al.
Veröffentlicht: (2025)
Impact of Data-Oriented and Object-Oriented Design on Performance and Cache Utilization with Artificial Intelligence Algorithms in Multi-Threaded CPUs
von: Arantes, Gabriel M., et al.
Veröffentlicht: (2025)
von: Arantes, Gabriel M., et al.
Veröffentlicht: (2025)
Cache Blocking of Distributed-Memory Parallel Matrix Power Kernels
von: Lacey, Dane C., et al.
Veröffentlicht: (2024)
von: Lacey, Dane C., et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
Eliminating the Hidden Cost of Zone Management in ZNS SSDs
von: Bagashvili, Teona, et al.
Veröffentlicht: (2025) -
Swarm: Co-Activation Aware KVCache Offloading Across Multiple SSDs
von: Wang, Tuowei, et al.
Veröffentlicht: (2026) -
2DIO: A Cache-Accurate Storage Microbenchmark
von: Wang, Yirong, et al.
Veröffentlicht: (2026) -
Optimizing CPU Cache Utilization in Cloud VMs with Accurate Cache Abstraction
von: Tofigh, Mani, et al.
Veröffentlicht: (2025) -
Can Increasing the Hit Ratio Hurt Cache Throughput? (Long Version)
von: Qiu, Ziyue, et al.
Veröffentlicht: (2024)