From Static Inference to Dynamic Interaction: A Survey of Streaming Large Language Models
Fuente:
arXiv
Salvato in:
| Autori principali: | Tong, Junlong, Wang, Zilong, Ren, YuJie, Yin, Peiran, Wu, Hao, Zhang, Wei, Shen, Xiaoyu |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
StreamingThinker: Large Language Models Can Think While Reading
di: Tong, Junlong, et al.
Pubblicazione: (2025)
di: Tong, Junlong, et al.
Pubblicazione: (2025)
Speak While Watching: Unleashing TRUE Real-Time Video Understanding Capability of Multimodal Large Language Models
di: Lin, Junyan, et al.
Pubblicazione: (2026)
di: Lin, Junyan, et al.
Pubblicazione: (2026)
LLM as Effective Streaming Processor: Bridging Streaming-Batch Mismatches with Group Position Encoding
di: Tong, Junlong, et al.
Pubblicazione: (2025)
di: Tong, Junlong, et al.
Pubblicazione: (2025)
Large Language Models and Causal Inference in Collaboration: A Survey
di: Liu, Xiaoyu, et al.
Pubblicazione: (2024)
di: Liu, Xiaoyu, et al.
Pubblicazione: (2024)
Think-as-You-See: Streaming Chain-of-Thought Reasoning for Large Vision-Language Models
di: Zhang, Jialiang, et al.
Pubblicazione: (2026)
di: Zhang, Jialiang, et al.
Pubblicazione: (2026)
The Few Govern the Many:Unveiling Few-Layer Dominance for Time Series Models
di: Qiu, Xin, et al.
Pubblicazione: (2025)
di: Qiu, Xin, et al.
Pubblicazione: (2025)
HiDrop: Hierarchical Vision Token Reduction in MLLMs via Late Injection, Concave Pyramid Pruning, and Early Exit
di: Wu, Hao, et al.
Pubblicazione: (2026)
di: Wu, Hao, et al.
Pubblicazione: (2026)
Rethinking the Role of LLMs in Time Series Forecasting
di: Qiu, Xin, et al.
Pubblicazione: (2026)
di: Qiu, Xin, et al.
Pubblicazione: (2026)
Hybrid OCR-LLM Framework for Enterprise-Scale Document Information Extraction Under Copy-heavy Task
di: Wang, Zilong, et al.
Pubblicazione: (2025)
di: Wang, Zilong, et al.
Pubblicazione: (2025)
LangSuitE: Planning, Controlling and Interacting with Large Language Models in Embodied Text Environments
di: Jia, Zixia, et al.
Pubblicazione: (2024)
di: Jia, Zixia, et al.
Pubblicazione: (2024)
EFT-CoT: A Multi-Agent Chain-of-Thought Framework for Emotion-Focused Therapy
di: Du, Lanqing, et al.
Pubblicazione: (2026)
di: Du, Lanqing, et al.
Pubblicazione: (2026)
SkipGPT: Dynamic Layer Pruning Reinvented with Token Awareness and Module Decoupling
di: Zhao, Anhao, et al.
Pubblicazione: (2025)
di: Zhao, Anhao, et al.
Pubblicazione: (2025)
Large Language Model Sourcing: A Survey
di: Pang, Liang, et al.
Pubblicazione: (2025)
di: Pang, Liang, et al.
Pubblicazione: (2025)
A Survey on Data Synthesis and Augmentation for Large Language Models
di: Wang, Ke, et al.
Pubblicazione: (2024)
di: Wang, Ke, et al.
Pubblicazione: (2024)
Dynamic Compressing Prompts for Efficient Inference of Large Language Models
di: Hu, Jinwu, et al.
Pubblicazione: (2025)
di: Hu, Jinwu, et al.
Pubblicazione: (2025)
A Survey on Efficient Large Language Model Training: From Data-centric Perspectives
di: Luo, Junyu, et al.
Pubblicazione: (2025)
di: Luo, Junyu, et al.
Pubblicazione: (2025)
A Survey on Efficient Inference for Large Language Models
di: Zhou, Zixuan, et al.
Pubblicazione: (2024)
di: Zhou, Zixuan, et al.
Pubblicazione: (2024)
$\mathcal{V}isi\mathcal{P}runer$: Decoding Discontinuous Cross-Modal Dynamics for Efficient Multimodal LLMs
di: Fan, Yingqi, et al.
Pubblicazione: (2025)
di: Fan, Yingqi, et al.
Pubblicazione: (2025)
Assessing "Implicit" Retrieval Robustness of Large Language Models
di: Shen, Xiaoyu, et al.
Pubblicazione: (2024)
di: Shen, Xiaoyu, et al.
Pubblicazione: (2024)
SentGuard: Sentence-Level Streaming Guardrails for Large Language Models
di: Yu, Jiaqi, et al.
Pubblicazione: (2026)
di: Yu, Jiaqi, et al.
Pubblicazione: (2026)
A Survey of AIOps in the Era of Large Language Models
di: Zhang, Lingzhe, et al.
Pubblicazione: (2025)
di: Zhang, Lingzhe, et al.
Pubblicazione: (2025)
A Survey on Multi-Turn Interaction Capabilities of Large Language Models
di: Zhang, Chen, et al.
Pubblicazione: (2025)
di: Zhang, Chen, et al.
Pubblicazione: (2025)
Large Language Models for Generative Information Extraction: A Survey
di: Xu, Derong, et al.
Pubblicazione: (2023)
di: Xu, Derong, et al.
Pubblicazione: (2023)
Mind the Gap! Static and Interactive Evaluations of Large Audio Models
di: Li, Minzhi, et al.
Pubblicazione: (2025)
di: Li, Minzhi, et al.
Pubblicazione: (2025)
Causal Inference with Large Language Model: A Survey
di: Ma, Jing
Pubblicazione: (2024)
di: Ma, Jing
Pubblicazione: (2024)
Retrieval Augmented Generation Evaluation in the Era of Large Language Models: A Comprehensive Survey
di: Gan, Aoran, et al.
Pubblicazione: (2025)
di: Gan, Aoran, et al.
Pubblicazione: (2025)
Beyond Static Personas: Situational Personality Steering for Large Language Models
di: Wei, Zesheng, et al.
Pubblicazione: (2026)
di: Wei, Zesheng, et al.
Pubblicazione: (2026)
UTPTrack: Towards Simple and Unified Token Pruning for Visual Tracking
di: Wu, Hao, et al.
Pubblicazione: (2026)
di: Wu, Hao, et al.
Pubblicazione: (2026)
Knowledge Is Not Static: Order-Aware Hypergraph RAG for Language Models
di: Wu, Keshu, et al.
Pubblicazione: (2026)
di: Wu, Keshu, et al.
Pubblicazione: (2026)
Curved Inference: Concern-Sensitive Geometry in Large Language Model Residual Streams
di: Manson, Rob
Pubblicazione: (2025)
di: Manson, Rob
Pubblicazione: (2025)
FineSteer: A Unified Framework for Fine-Grained Inference-Time Steering in Large Language Models
di: Weng, Zixuan, et al.
Pubblicazione: (2026)
di: Weng, Zixuan, et al.
Pubblicazione: (2026)
What Do Visual Tokens Really Encode? Uncovering Sparsity and Redundancy in Multimodal Large Language Models
di: Fan, Yingqi, et al.
Pubblicazione: (2026)
di: Fan, Yingqi, et al.
Pubblicazione: (2026)
Personalization of Large Language Models: A Survey
di: Zhang, Zhehao, et al.
Pubblicazione: (2024)
di: Zhang, Zhehao, et al.
Pubblicazione: (2024)
Model Compression and Efficient Inference for Large Language Models: A Survey
di: Wang, Wenxiao, et al.
Pubblicazione: (2024)
di: Wang, Wenxiao, et al.
Pubblicazione: (2024)
What are Models Thinking about? Understanding Large Language Model Hallucinations "Psychology" through Model Inner State Analysis
di: Wang, Peiran, et al.
Pubblicazione: (2025)
di: Wang, Peiran, et al.
Pubblicazione: (2025)
A Survey on the Honesty of Large Language Models
di: Li, Siheng, et al.
Pubblicazione: (2024)
di: Li, Siheng, et al.
Pubblicazione: (2024)
A Survey of Recent Backdoor Attacks and Defenses in Large Language Models
di: Zhao, Shuai, et al.
Pubblicazione: (2024)
di: Zhao, Shuai, et al.
Pubblicazione: (2024)
A Survey on Evaluation of Large Language Models
di: Chang, Yupeng, et al.
Pubblicazione: (2023)
di: Chang, Yupeng, et al.
Pubblicazione: (2023)
Pretraining Data Exposure in Large Language Models: A Survey of Membership Inference, Data Contamination, and Security Implications
di: Tong, Ziyi, et al.
Pubblicazione: (2026)
di: Tong, Ziyi, et al.
Pubblicazione: (2026)
Towards Tracing Trustworthiness Dynamics: Revisiting Pre-training Period of Large Language Models
di: Qian, Chen, et al.
Pubblicazione: (2024)
di: Qian, Chen, et al.
Pubblicazione: (2024)
Documenti analoghi
-
StreamingThinker: Large Language Models Can Think While Reading
di: Tong, Junlong, et al.
Pubblicazione: (2025) -
Speak While Watching: Unleashing TRUE Real-Time Video Understanding Capability of Multimodal Large Language Models
di: Lin, Junyan, et al.
Pubblicazione: (2026) -
LLM as Effective Streaming Processor: Bridging Streaming-Batch Mismatches with Group Position Encoding
di: Tong, Junlong, et al.
Pubblicazione: (2025) -
Large Language Models and Causal Inference in Collaboration: A Survey
di: Liu, Xiaoyu, et al.
Pubblicazione: (2024) -
Think-as-You-See: Streaming Chain-of-Thought Reasoning for Large Vision-Language Models
di: Zhang, Jialiang, et al.
Pubblicazione: (2026)