Enregistré dans:
| Auteurs principaux: | Fei, Weizhi, Niu, Xueyan, Xie, Guoqing, Liu, Yingqing, Bai, Bo, Han, Wei |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | https://arxiv.org/abs/2501.12959 |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Retrieval Meets Reasoning: Dynamic In-Context Editing for Long-Text Understanding
par: Fei, Weizhi, et autres
Publié: (2024)
par: Fei, Weizhi, et autres
Publié: (2024)
Characterizing Prompt Compression Methods for Long Context Inference
par: Jha, Siddharth, et autres
Publié: (2024)
par: Jha, Siddharth, et autres
Publié: (2024)
NeuralDB: Scaling Knowledge Editing in LLMs to 100,000 Facts with Neural KV Database
par: Fei, Weizhi, et autres
Publié: (2025)
par: Fei, Weizhi, et autres
Publié: (2025)
DuoAttention: Efficient Long-Context LLM Inference with Retrieval and Streaming Heads
par: Xiao, Guangxuan, et autres
Publié: (2024)
par: Xiao, Guangxuan, et autres
Publié: (2024)
ChunkKV: Semantic-Preserving KV Cache Compression for Efficient Long-Context LLM Inference
par: Liu, Xiang, et autres
Publié: (2025)
par: Liu, Xiang, et autres
Publié: (2025)
ZigzagAttention: Efficient Long-Context Inference with Exclusive Retrieval and Streaming Heads
par: Liu, Zhuorui, et autres
Publié: (2025)
par: Liu, Zhuorui, et autres
Publié: (2025)
Locret: Enhancing Eviction in Long-Context LLM Inference with Trained Retaining Heads on Consumer-Grade Devices
par: Huang, Yuxiang, et autres
Publié: (2024)
par: Huang, Yuxiang, et autres
Publié: (2024)
APB: Accelerating Distributed Long-Context Inference by Passing Compressed Context Blocks across GPUs
par: Huang, Yuxiang, et autres
Publié: (2025)
par: Huang, Yuxiang, et autres
Publié: (2025)
A Little Goes a Long Way: Efficient Long Context Training and Inference with Partial Contexts
par: Ge, Suyu, et autres
Publié: (2024)
par: Ge, Suyu, et autres
Publié: (2024)
Dynamic Compressing Prompts for Efficient Inference of Large Language Models
par: Hu, Jinwu, et autres
Publié: (2025)
par: Hu, Jinwu, et autres
Publié: (2025)
CCF: A Context Compression Framework for Efficient Long-Sequence Language Modeling
par: Li, Wenhao, et autres
Publié: (2025)
par: Li, Wenhao, et autres
Publié: (2025)
RRAttention: Dynamic Block Sparse Attention via Per-Head Round-Robin Shifts for Long-Context Inference
par: Liu, Siran, et autres
Publié: (2026)
par: Liu, Siran, et autres
Publié: (2026)
Efficient Long-Context LLM Inference via KV Cache Clustering
par: Hu, Jie, et autres
Publié: (2025)
par: Hu, Jie, et autres
Publié: (2025)
DynSplit-KV: Dynamic Semantic Splitting for KVCache Compression in Efficient Long-Context LLM Inference
par: Ye, Jiancai, et autres
Publié: (2026)
par: Ye, Jiancai, et autres
Publié: (2026)
LongHeads: Multi-Head Attention is Secretly a Long Context Processor
par: Lu, Yi, et autres
Publié: (2024)
par: Lu, Yi, et autres
Publié: (2024)
EndPrompt: Efficient Long-Context Extension via Terminal Anchoring
par: Tian, Han, et autres
Publié: (2026)
par: Tian, Han, et autres
Publié: (2026)
Efficient Dynamic Clustering-Based Document Compression for Retrieval-Augmented-Generation
par: Li, Weitao, et autres
Publié: (2025)
par: Li, Weitao, et autres
Publié: (2025)
LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression
par: Jiang, Huiqiang, et autres
Publié: (2023)
par: Jiang, Huiqiang, et autres
Publié: (2023)
TriAttention: Efficient Long Reasoning with Trigonometric KV Compression
par: Mao, Weian, et autres
Publié: (2026)
par: Mao, Weian, et autres
Publié: (2026)
Fovea Transformer: Efficient Long-Context Modeling with Structured Fine-to-Coarse Attention
par: He, Ziwei, et autres
Publié: (2023)
par: He, Ziwei, et autres
Publié: (2023)
ICPC: In-context Prompt Compression with Faster Inference
par: Yu, Ziyang, et autres
Publié: (2025)
par: Yu, Ziyang, et autres
Publié: (2025)
Prompt Compression with Context-Aware Sentence Encoding for Fast and Improved LLM Inference
par: Liskavets, Barys, et autres
Publié: (2024)
par: Liskavets, Barys, et autres
Publié: (2024)
StoryBench: A Dynamic Benchmark for Evaluating Long-Term Memory with Multi Turns
par: Wan, Luanbo, et autres
Publié: (2025)
par: Wan, Luanbo, et autres
Publié: (2025)
Quest: Query-Aware Sparsity for Efficient Long-Context LLM Inference
par: Tang, Jiaming, et autres
Publié: (2024)
par: Tang, Jiaming, et autres
Publié: (2024)
Perception Compressor: A Training-Free Prompt Compression Framework in Long Context Scenarios
par: Tang, Jiwei, et autres
Publié: (2024)
par: Tang, Jiwei, et autres
Publié: (2024)
Evaluating Zero-Shot Long-Context LLM Compression
par: Wang, Chenyu, et autres
Publié: (2024)
par: Wang, Chenyu, et autres
Publié: (2024)
GRKV: Global Regression for Training-Free KV Cache Compression in Long-Context LLMs
par: Peng, Junjie, et autres
Publié: (2026)
par: Peng, Junjie, et autres
Publié: (2026)
Compress, Gather, and Recompute: REFORMing Long-Context Processing in Transformers
par: Song, Woomin, et autres
Publié: (2025)
par: Song, Woomin, et autres
Publié: (2025)
VTC-R1: Vision-Text Compression for Efficient Long-Context Reasoning
par: Wang, Yibo, et autres
Publié: (2026)
par: Wang, Yibo, et autres
Publié: (2026)
Compressing KV Cache for Long-Context LLM Inference with Inter-Layer Attention Similarity
par: Ma, Da, et autres
Publié: (2024)
par: Ma, Da, et autres
Publié: (2024)
MemoryCD: Benchmarking Long-Context User Memory of LLM Agents for Lifelong Cross-Domain Personalization
par: Zhang, Weizhi, et autres
Publié: (2026)
par: Zhang, Weizhi, et autres
Publié: (2026)
FlashBack:Efficient Retrieval-Augmented Language Modeling for Long Context Inference
par: Liu, Runheng, et autres
Publié: (2024)
par: Liu, Runheng, et autres
Publié: (2024)
Adamas: Hadamard Sparse Attention for Efficient Long-Context Inference
par: Yan, Siyuan, et autres
Publié: (2025)
par: Yan, Siyuan, et autres
Publié: (2025)
BatchGEMBA: Token-Efficient Machine Translation Evaluation with Batched Prompting and Prompt Compression
par: Larionov, Daniil, et autres
Publié: (2025)
par: Larionov, Daniil, et autres
Publié: (2025)
Inference Scaling for Long-Context Retrieval Augmented Generation
par: Yue, Zhenrui, et autres
Publié: (2024)
par: Yue, Zhenrui, et autres
Publié: (2024)
MEDA: Dynamic KV Cache Allocation for Efficient Multimodal Long-Context Inference
par: Wan, Zhongwei, et autres
Publié: (2025)
par: Wan, Zhongwei, et autres
Publié: (2025)
NestedKV: Nested Memory Routing for Long-Context KV Cache Compression
par: Chen, Hong, et autres
Publié: (2026)
par: Chen, Hong, et autres
Publié: (2026)
Long Context Compression with Activation Beacon
par: Zhang, Peitian, et autres
Publié: (2024)
par: Zhang, Peitian, et autres
Publié: (2024)
ACON: Optimizing Context Compression for Long-horizon LLM Agents
par: Kang, Minki, et autres
Publié: (2025)
par: Kang, Minki, et autres
Publié: (2025)
ZSMerge: Zero-Shot KV Cache Compression for Memory-Efficient Long-Context LLMs
par: Liu, Xin, et autres
Publié: (2025)
par: Liu, Xin, et autres
Publié: (2025)
Documents similaires
-
Retrieval Meets Reasoning: Dynamic In-Context Editing for Long-Text Understanding
par: Fei, Weizhi, et autres
Publié: (2024) -
Characterizing Prompt Compression Methods for Long Context Inference
par: Jha, Siddharth, et autres
Publié: (2024) -
NeuralDB: Scaling Knowledge Editing in LLMs to 100,000 Facts with Neural KV Database
par: Fei, Weizhi, et autres
Publié: (2025) -
DuoAttention: Efficient Long-Context LLM Inference with Retrieval and Streaming Heads
par: Xiao, Guangxuan, et autres
Publié: (2024) -
ChunkKV: Semantic-Preserving KV Cache Compression for Efficient Long-Context LLM Inference
par: Liu, Xiang, et autres
Publié: (2025)