Breaking the Boundaries of Long-Context LLM Inference: Adaptive KV Management on a Single Commodity GPU
Fuente:
arXiv
Salvato in:
| Autori principali: | Sun, He, Li, Li, Xiao, Mingjun, Xu, Chengzhong |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
VeriFence: Lightweight and Precise Spectre Defenses for Untrusted Linux Kernel Extensions
di: Gerhorst, Luis, et al.
Pubblicazione: (2024)
di: Gerhorst, Luis, et al.
Pubblicazione: (2024)
Towards Deterministic Sub-0.5 us Response on Linux through Interrupt Isolation
di: Zhou, Zhouyi, et al.
Pubblicazione: (2025)
di: Zhou, Zhouyi, et al.
Pubblicazione: (2025)
Expectations Versus Reality: Evaluating Intrusion Detection Systems in Practice
di: Hesford, Jake, et al.
Pubblicazione: (2024)
di: Hesford, Jake, et al.
Pubblicazione: (2024)
Selective KV-Cache Sharing to Mitigate Timing Side-Channels in LLM Inference
di: Chu, Kexin, et al.
Pubblicazione: (2025)
di: Chu, Kexin, et al.
Pubblicazione: (2025)
Tamper-Proofing with Self-Modifying Code
di: Morse, Gregory, et al.
Pubblicazione: (2026)
di: Morse, Gregory, et al.
Pubblicazione: (2026)
A TEE-Based Architecture for Confidential and Dependable Process Attestation in Authorship Verification
di: Condrey, David
Pubblicazione: (2026)
di: Condrey, David
Pubblicazione: (2026)
Adaptive and Efficient Dynamic Memory Management for Hardware Enclaves
di: Dhanraj, Vijay, et al.
Pubblicazione: (2025)
di: Dhanraj, Vijay, et al.
Pubblicazione: (2025)
DAVOS: An Autonomous Vehicle Operating System in the Vehicle Computing Era
di: Wang, Yuxin, et al.
Pubblicazione: (2026)
di: Wang, Yuxin, et al.
Pubblicazione: (2026)
User-space library rootkits revisited: Are user-space detection mechanisms futile?
di: Soriano-Salvador, Enrique, et al.
Pubblicazione: (2025)
di: Soriano-Salvador, Enrique, et al.
Pubblicazione: (2025)
Paths Not Taken: A Secure Computing Tutorial
di: Boebert, William Earl
Pubblicazione: (2025)
di: Boebert, William Earl
Pubblicazione: (2025)
Blindfold: Confidential Memory Management by Untrusted Operating System
di: Li, Caihua, et al.
Pubblicazione: (2024)
di: Li, Caihua, et al.
Pubblicazione: (2024)
BEC: Bit-Level Static Analysis for Reliability against Soft Errors
di: Ko, Yousun, et al.
Pubblicazione: (2024)
di: Ko, Yousun, et al.
Pubblicazione: (2024)
Challenges and Future Directions in Agentic Reverse Engineering Systems
di: Radey, Salem, et al.
Pubblicazione: (2026)
di: Radey, Salem, et al.
Pubblicazione: (2026)
Pomegranate: A Lightweight Compartmentalization Architecture using Virtualization Extensions
di: Raja, Shriram, et al.
Pubblicazione: (2026)
di: Raja, Shriram, et al.
Pubblicazione: (2026)
SJMalloc: the security-conscious, fast, thread-safe and memory-efficient heap allocator
di: Bauroth, Stephan
Pubblicazione: (2024)
di: Bauroth, Stephan
Pubblicazione: (2024)
A Comprehensive Quantification of Inconsistencies in Memory Dumps
di: Oliveri, Andrea, et al.
Pubblicazione: (2025)
di: Oliveri, Andrea, et al.
Pubblicazione: (2025)
Automatic ISA analysis for Secure Context Switching
di: Kalani, Neelu S., et al.
Pubblicazione: (2025)
di: Kalani, Neelu S., et al.
Pubblicazione: (2025)
RX-INT: A Kernel Engine for Real-Time Detection and Analysis of In-Memory Threats
di: Juneja, Arjun
Pubblicazione: (2025)
di: Juneja, Arjun
Pubblicazione: (2025)
The Adobe Hidden Feature and its Impact on Sensor Attribution
di: Butora, Jan, et al.
Pubblicazione: (2023)
di: Butora, Jan, et al.
Pubblicazione: (2023)
Beyond Edge Coverage: Per-Task Data-Flow Extraction at Kernel Function Boundaries via LLVM
di: Kim, Yunseong
Pubblicazione: (2026)
di: Kim, Yunseong
Pubblicazione: (2026)
TrapFlow: Controllable Website Fingerprinting Defense via Dynamic Backdoor Learning
di: Liang, Siyuan, et al.
Pubblicazione: (2024)
di: Liang, Siyuan, et al.
Pubblicazione: (2024)
Tyche: Composable Isolation as a Foundation to Manage Trust in the Cloud
di: Ghosn, Adrien, et al.
Pubblicazione: (2025)
di: Ghosn, Adrien, et al.
Pubblicazione: (2025)
AgenTEE: Confidential LLM Agent Execution on Edge Devices
di: Abdollahi, Sina, et al.
Pubblicazione: (2026)
di: Abdollahi, Sina, et al.
Pubblicazione: (2026)
Physical Memory Attacks and a Memory Safe Management System for Memory Defense
di: Hillel-Tuch, Alon, et al.
Pubblicazione: (2024)
di: Hillel-Tuch, Alon, et al.
Pubblicazione: (2024)
Fast, Secure, Adaptable: LionsOS Design, Implementation and Performance
di: Heiser, Gernot, et al.
Pubblicazione: (2025)
di: Heiser, Gernot, et al.
Pubblicazione: (2025)
Breaking Boundaries: Balancing Performance and Robustness in Deep Wireless Traffic Forecasting
di: Ilbert, Romain, et al.
Pubblicazione: (2023)
di: Ilbert, Romain, et al.
Pubblicazione: (2023)
Erlang Binary and Source Code Obfuscation
di: Morse, Gregory, et al.
Pubblicazione: (2026)
di: Morse, Gregory, et al.
Pubblicazione: (2026)
Identity Deepfake Threats to Biometric Authentication Systems: Public and Expert Perspectives
di: He, Shijing, et al.
Pubblicazione: (2025)
di: He, Shijing, et al.
Pubblicazione: (2025)
Secure and Efficient Access Control for Computer-Use Agents via Context Space
di: Gong, Haochen, et al.
Pubblicazione: (2025)
di: Gong, Haochen, et al.
Pubblicazione: (2025)
SyzParam: Introducing Runtime Parameters into Kernel Driver Fuzzing
di: Sun, Yue, et al.
Pubblicazione: (2025)
di: Sun, Yue, et al.
Pubblicazione: (2025)
RASP for LSASS: Preventing Mimikatz-Related Attacks
di: Revazova, Anna, et al.
Pubblicazione: (2023)
di: Revazova, Anna, et al.
Pubblicazione: (2023)
ALPC Is In Danger: ALPChecker Detects Spoofing and Blinding
di: Kropova, Anastasiia, et al.
Pubblicazione: (2023)
di: Kropova, Anastasiia, et al.
Pubblicazione: (2023)
Data Encryption Battlefield: A Deep Dive into the Dynamic Confrontations in Ransomware Attacks
di: Mahboubi, Arash, et al.
Pubblicazione: (2025)
di: Mahboubi, Arash, et al.
Pubblicazione: (2025)
A Systematic Classification of Vulnerabilities in MoveEVM Smart Contracts (MWC)
di: Topal, Selçuk
Pubblicazione: (2025)
di: Topal, Selçuk
Pubblicazione: (2025)
Supporting Socially Constrained Private Communications with SecureWhispers
di: Khandkar, Vinod, et al.
Pubblicazione: (2025)
di: Khandkar, Vinod, et al.
Pubblicazione: (2025)
More to Extract: Discovering MEV by Token Contract Analysis
di: Chen, Jiaqi, et al.
Pubblicazione: (2026)
di: Chen, Jiaqi, et al.
Pubblicazione: (2026)
MOAT: Towards Safe BPF Kernel Extension
di: Lu, Hongyi, et al.
Pubblicazione: (2023)
di: Lu, Hongyi, et al.
Pubblicazione: (2023)
Beyond Control: Exploring Novel File System Objects for Data-Only Attacks on Linux Systems
di: Zhou, Jinmeng, et al.
Pubblicazione: (2024)
di: Zhou, Jinmeng, et al.
Pubblicazione: (2024)
Multicore DRAM Bank-& Row-Conflict Bomb for Timing Attacks in Mixed-Criticality Systems
di: Savino, Antonio, et al.
Pubblicazione: (2024)
di: Savino, Antonio, et al.
Pubblicazione: (2024)
Securing Cloud File Systems with Trusted Execution
di: Burke, Quinn, et al.
Pubblicazione: (2023)
di: Burke, Quinn, et al.
Pubblicazione: (2023)
Documenti analoghi
-
VeriFence: Lightweight and Precise Spectre Defenses for Untrusted Linux Kernel Extensions
di: Gerhorst, Luis, et al.
Pubblicazione: (2024) -
Towards Deterministic Sub-0.5 us Response on Linux through Interrupt Isolation
di: Zhou, Zhouyi, et al.
Pubblicazione: (2025) -
Expectations Versus Reality: Evaluating Intrusion Detection Systems in Practice
di: Hesford, Jake, et al.
Pubblicazione: (2024) -
Selective KV-Cache Sharing to Mitigate Timing Side-Channels in LLM Inference
di: Chu, Kexin, et al.
Pubblicazione: (2025) -
Tamper-Proofing with Self-Modifying Code
di: Morse, Gregory, et al.
Pubblicazione: (2026)