Enhancing and Accelerating Large Language Models via Instruction-Aware Contextual Compression
Fuente:
arXiv
Salvato in:
| Autori principali: | Hou, Haowen, Ma, Fei, Bai, Binwen, Zhu, Xinxin, Yu, Fei |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
VisualRWKV: Exploring Recurrent Neural Networks for Visual Language Models
di: Hou, Haowen, et al.
Pubblicazione: (2024)
di: Hou, Haowen, et al.
Pubblicazione: (2024)
RWKV-X: A Linear Complexity Hybrid Language Model
di: Hou, Haowen, et al.
Pubblicazione: (2025)
di: Hou, Haowen, et al.
Pubblicazione: (2025)
DELIA: Diversity-Enhanced Learning for Instruction Adaptation in Large Language Models
di: Zeng, Yuanhao, et al.
Pubblicazione: (2024)
di: Zeng, Yuanhao, et al.
Pubblicazione: (2024)
Enhancing Large Language Models Against Inductive Instructions with Dual-critique Prompting
di: Wang, Rui, et al.
Pubblicazione: (2023)
di: Wang, Rui, et al.
Pubblicazione: (2023)
EIFBENCH: Extremely Complex Instruction Following Benchmark for Large Language Models
di: Zou, Tao, et al.
Pubblicazione: (2025)
di: Zou, Tao, et al.
Pubblicazione: (2025)
Instructions as Backdoors: Backdoor Vulnerabilities of Instruction Tuning for Large Language Models
di: Xu, Jiashu, et al.
Pubblicazione: (2023)
di: Xu, Jiashu, et al.
Pubblicazione: (2023)
Learning Instruction-Following Policies through Open-Ended Instruction Relabeling with Large Language Models
di: Zhang, Zhicheng, et al.
Pubblicazione: (2025)
di: Zhang, Zhicheng, et al.
Pubblicazione: (2025)
Dynamics of Instruction Fine-Tuning for Chinese Large Language Models
di: Song, Chiyu, et al.
Pubblicazione: (2023)
di: Song, Chiyu, et al.
Pubblicazione: (2023)
Instructional Fingerprinting of Large Language Models
di: Xu, Jiashu, et al.
Pubblicazione: (2024)
di: Xu, Jiashu, et al.
Pubblicazione: (2024)
IAPT: Instruction-Aware Prompt Tuning for Large Language Models
di: Zhu, Wei, et al.
Pubblicazione: (2024)
di: Zhu, Wei, et al.
Pubblicazione: (2024)
Contextual Reinforcement in Multimodal Token Compression for Large Language Models
di: Piero, Naderdel, et al.
Pubblicazione: (2025)
di: Piero, Naderdel, et al.
Pubblicazione: (2025)
CAPE: Context-Aware Personality Evaluation Framework for Large Language Models
di: Sandhan, Jivnesh, et al.
Pubblicazione: (2025)
di: Sandhan, Jivnesh, et al.
Pubblicazione: (2025)
Extend Model Merging from Fine-Tuned to Pre-Trained Large Language Models via Weight Disentanglement
di: Yu, Le, et al.
Pubblicazione: (2024)
di: Yu, Le, et al.
Pubblicazione: (2024)
Sparsity-Accelerated Training for Large Language Models
di: Ma, Da, et al.
Pubblicazione: (2024)
di: Ma, Da, et al.
Pubblicazione: (2024)
Robust Search with Uncertainty-Aware Value Models for Language Model Reasoning
di: Yu, Fei, et al.
Pubblicazione: (2025)
di: Yu, Fei, et al.
Pubblicazione: (2025)
Enhancing Complex Instruction Following for Large Language Models with Mixture-of-Contexts Fine-tuning
di: Lu, Yuheng, et al.
Pubblicazione: (2025)
di: Lu, Yuheng, et al.
Pubblicazione: (2025)
CATS: Contextually-Aware Thresholding for Sparsity in Large Language Models
di: Lee, Donghyun, et al.
Pubblicazione: (2024)
di: Lee, Donghyun, et al.
Pubblicazione: (2024)
KVLink: Accelerating Large Language Models via Efficient KV Cache Reuse
di: Yang, Jingbo, et al.
Pubblicazione: (2025)
di: Yang, Jingbo, et al.
Pubblicazione: (2025)
A Survey on Model Compression for Large Language Models
di: Zhu, Xunyu, et al.
Pubblicazione: (2023)
di: Zhu, Xunyu, et al.
Pubblicazione: (2023)
Contextual Compression in Retrieval-Augmented Generation for Large Language Models: A Survey
di: Verma, Sourav
Pubblicazione: (2024)
di: Verma, Sourav
Pubblicazione: (2024)
TypedThinker: Diversify Large Language Model Reasoning with Typed Thinking
di: Wang, Danqing, et al.
Pubblicazione: (2024)
di: Wang, Danqing, et al.
Pubblicazione: (2024)
VisualRWKV-HD and UHD: Advancing High-Resolution Processing for Visual Language Models
di: Li, Zihang, et al.
Pubblicazione: (2024)
di: Li, Zihang, et al.
Pubblicazione: (2024)
DAST: Difficulty-Aware Self-Training on Large Language Models
di: Xue, Boyang, et al.
Pubblicazione: (2025)
di: Xue, Boyang, et al.
Pubblicazione: (2025)
Harnessing the Power of Large Language Model for Uncertainty Aware Graph Processing
di: Qian, Zhenyu, et al.
Pubblicazione: (2024)
di: Qian, Zhenyu, et al.
Pubblicazione: (2024)
Instruction-Following Pruning for Large Language Models
di: Hou, Bairu, et al.
Pubblicazione: (2025)
di: Hou, Bairu, et al.
Pubblicazione: (2025)
C$^2$-Cite: Contextual-Aware Citation Generation for Attributed Large Language Models
di: Yu, Yue, et al.
Pubblicazione: (2025)
di: Yu, Yue, et al.
Pubblicazione: (2025)
Autoencoding-Free Context Compression for LLMs via Contextual Semantic Anchors
di: Liu, Xin, et al.
Pubblicazione: (2025)
di: Liu, Xin, et al.
Pubblicazione: (2025)
Revisiting Anthropomorphic Reflection Markers in Large Language Model Reasoning
di: Yu, Yahan, et al.
Pubblicazione: (2026)
di: Yu, Yahan, et al.
Pubblicazione: (2026)
Evaluating and Steering Modality Preferences in Multimodal Large Language Model
di: Zhang, Yu, et al.
Pubblicazione: (2025)
di: Zhang, Yu, et al.
Pubblicazione: (2025)
Neuron-Aware Data Selection In Instruction Tuning For Large Language Models
di: Chen, Xin, et al.
Pubblicazione: (2026)
di: Chen, Xin, et al.
Pubblicazione: (2026)
InFoBench: Evaluating Instruction Following Ability in Large Language Models
di: Qin, Yiwei, et al.
Pubblicazione: (2024)
di: Qin, Yiwei, et al.
Pubblicazione: (2024)
Cooperative Strategic Planning Enhances Reasoning Capabilities in Large Language Models
di: Wang, Danqing, et al.
Pubblicazione: (2024)
di: Wang, Danqing, et al.
Pubblicazione: (2024)
ERC-SVD: Error-Controlled SVD for Large Language Model Compression
di: Bai, Haolei, et al.
Pubblicazione: (2025)
di: Bai, Haolei, et al.
Pubblicazione: (2025)
Evaluating Proactive Risk Awareness of Large Language Models
di: Luo, Xuan, et al.
Pubblicazione: (2026)
di: Luo, Xuan, et al.
Pubblicazione: (2026)
CUE-M: Contextual Understanding and Enhanced Search with Multimodal Large Language Model
di: Go, Dongyoung, et al.
Pubblicazione: (2024)
di: Go, Dongyoung, et al.
Pubblicazione: (2024)
Improving Contextual Faithfulness of Large Language Models via Retrieval Heads-Induced Optimization
di: Huang, Lei, et al.
Pubblicazione: (2025)
di: Huang, Lei, et al.
Pubblicazione: (2025)
Entity-Aware Self-Attention and Contextualized GCN for Enhanced Relation Extraction in Long Sentences
di: Wang, Xin, et al.
Pubblicazione: (2024)
di: Wang, Xin, et al.
Pubblicazione: (2024)
PAC: Pronunciation-Aware Contextualized Large Language Model-based Automatic Speech Recognition
di: Fu, Li, et al.
Pubblicazione: (2025)
di: Fu, Li, et al.
Pubblicazione: (2025)
InfoMerge: Information-aware Token Compression for Efficient Video Large Language Models
di: Liu, Xinxin, et al.
Pubblicazione: (2026)
di: Liu, Xinxin, et al.
Pubblicazione: (2026)
Language Confusion Gate: Language-Aware Decoding Through Model Self-Distillation
di: Zhang, Collin, et al.
Pubblicazione: (2025)
di: Zhang, Collin, et al.
Pubblicazione: (2025)
Documenti analoghi
-
VisualRWKV: Exploring Recurrent Neural Networks for Visual Language Models
di: Hou, Haowen, et al.
Pubblicazione: (2024) -
RWKV-X: A Linear Complexity Hybrid Language Model
di: Hou, Haowen, et al.
Pubblicazione: (2025) -
DELIA: Diversity-Enhanced Learning for Instruction Adaptation in Large Language Models
di: Zeng, Yuanhao, et al.
Pubblicazione: (2024) -
Enhancing Large Language Models Against Inductive Instructions with Dual-critique Prompting
di: Wang, Rui, et al.
Pubblicazione: (2023) -
EIFBENCH: Extremely Complex Instruction Following Benchmark for Large Language Models
di: Zou, Tao, et al.
Pubblicazione: (2025)