Communication-Efficient Collaborative LLM Inference over LEO Satellite Networks
Fuente:
arXiv
Salvato in:
| Autori principali: | Zhang, Songge, Wu, Wen, Li, Liang, Wang, Ye, Xuemin, Shen |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Delay-Aware Large-Small Model Collaboration over LEO Satellite Networks
di: Guo, Mingyu, et al.
Pubblicazione: (2026)
di: Guo, Mingyu, et al.
Pubblicazione: (2026)
SplitLLM: Hierarchical Split Learning for Large Language Model over Wireless Network
di: Zhang, Songge, et al.
Pubblicazione: (2025)
di: Zhang, Songge, et al.
Pubblicazione: (2025)
Split Fine-Tuning for Large Language Models in Wireless Networks
di: Zhang, Songge, et al.
Pubblicazione: (2025)
di: Zhang, Songge, et al.
Pubblicazione: (2025)
DFedSat: Communication-Efficient and Robust Decentralized Federated Learning for LEO Satellite Constellations
di: Yang, Minghao, et al.
Pubblicazione: (2024)
di: Yang, Minghao, et al.
Pubblicazione: (2024)
EdgeShard: Efficient LLM Inference via Collaborative Edge Computing
di: Zhang, Mingjin, et al.
Pubblicazione: (2024)
di: Zhang, Mingjin, et al.
Pubblicazione: (2024)
Energy-Efficient Split Learning for Fine-Tuning Large Language Models in Edge Networks
di: Li, Zuguang, et al.
Pubblicazione: (2024)
di: Li, Zuguang, et al.
Pubblicazione: (2024)
Adaptive Device-Edge Collaboration on DNN Inference in AIoT: A Digital Twin-Assisted Approach
di: Hu, Shisheng, et al.
Pubblicazione: (2024)
di: Hu, Shisheng, et al.
Pubblicazione: (2024)
Federated Inference for Heterogeneous LLM Communication and Collaboration
di: Chen, Zihan, et al.
Pubblicazione: (2026)
di: Chen, Zihan, et al.
Pubblicazione: (2026)
Intelligent Task Management via Dynamic Multi-region Division in LEO Satellite Networks
di: Song, Zixuan, et al.
Pubblicazione: (2025)
di: Song, Zixuan, et al.
Pubblicazione: (2025)
CCRSat: A Collaborative Computation Reuse Framework for Satellite Edge Computing Networks
di: Zhang, Ye, et al.
Pubblicazione: (2025)
di: Zhang, Ye, et al.
Pubblicazione: (2025)
A Pipelined Collaborative Speculative Decoding Framework for Efficient Edge-Cloud LLM Inference
di: Zhang, Yida, et al.
Pubblicazione: (2026)
di: Zhang, Yida, et al.
Pubblicazione: (2026)
Collaborative Inference in DNN-based Satellite Systems with Dynamic Task Streams
di: Guan, Jinglong, et al.
Pubblicazione: (2023)
di: Guan, Jinglong, et al.
Pubblicazione: (2023)
LIME:Accelerating Collaborative Lossless LLM Inference on Memory-Constrained Edge Devices
di: Sun, Mingyu, et al.
Pubblicazione: (2025)
di: Sun, Mingyu, et al.
Pubblicazione: (2025)
ALANINE: A Novel Decentralized Personalized Federated Learning For Heterogeneous LEO Satellite Constellation
di: Zhao, Liang, et al.
Pubblicazione: (2024)
di: Zhao, Liang, et al.
Pubblicazione: (2024)
A Sharded Blockchain-Based Secure Federated Learning Framework for LEO Satellite Networks
di: Wu, Wenbo, et al.
Pubblicazione: (2024)
di: Wu, Wenbo, et al.
Pubblicazione: (2024)
MoA-Off: Adaptive Heterogeneous Modality-Aware Offloading with Edge-Cloud Collaboration for Efficient Multimodal LLM Inference
di: Yang, Zheming, et al.
Pubblicazione: (2025)
di: Yang, Zheming, et al.
Pubblicazione: (2025)
Stitching Satellites to the Edge: Pervasive and Efficient Federated LEO Satellite Learning
di: Elmahallawy, Mohamed, et al.
Pubblicazione: (2024)
di: Elmahallawy, Mohamed, et al.
Pubblicazione: (2024)
Efficient Multi-round LLM Inference over Disaggregated Serving
di: He, Wenhao, et al.
Pubblicazione: (2026)
di: He, Wenhao, et al.
Pubblicazione: (2026)
Parallax: Efficient LLM Inference Service over Decentralized Environment
di: Tong, Chris, et al.
Pubblicazione: (2025)
di: Tong, Chris, et al.
Pubblicazione: (2025)
UELLM: A Unified and Efficient Approach for LLM Inference Serving
di: He, Yiyuan, et al.
Pubblicazione: (2024)
di: He, Yiyuan, et al.
Pubblicazione: (2024)
Decentralized LLM Inference over Edge Networks with Energy Harvesting
di: Khoshsirat, Aria, et al.
Pubblicazione: (2024)
di: Khoshsirat, Aria, et al.
Pubblicazione: (2024)
Collaborative Speculative Inference for Efficient LLM Inference Serving
di: Gao, Luyao, et al.
Pubblicazione: (2025)
di: Gao, Luyao, et al.
Pubblicazione: (2025)
Memory-Efficient Split Federated Learning for LLM Fine-Tuning on Heterogeneous Mobile Devices
di: Chen, Xiaopei, et al.
Pubblicazione: (2025)
di: Chen, Xiaopei, et al.
Pubblicazione: (2025)
A Cloud in the Sky: Geo-Aware On-board Data Services for LEO Satellites
di: Sandholm, Thomas, et al.
Pubblicazione: (2024)
di: Sandholm, Thomas, et al.
Pubblicazione: (2024)
MSAO: Adaptive Modality Sparsity-Aware Offloading with Edge-Cloud Collaboration for Efficient Multimodal LLM Inference
di: Yang, Zheming, et al.
Pubblicazione: (2026)
di: Yang, Zheming, et al.
Pubblicazione: (2026)
Unleashing Collaborative Computing for Adaptive Video Streaming with Multi-objective Optimization in Satellite Terrestrial Networks
di: Shen, Zhishu, et al.
Pubblicazione: (2024)
di: Shen, Zhishu, et al.
Pubblicazione: (2024)
FourierCompress: Layer-Aware Spectral Activation Compression for Efficient and Accurate Collaborative LLM Inference
di: Ma, Jian, et al.
Pubblicazione: (2025)
di: Ma, Jian, et al.
Pubblicazione: (2025)
Communication-Efficient Distributed On-Device LLM Inference Over Wireless Networks
di: Zhang, Kai, et al.
Pubblicazione: (2025)
di: Zhang, Kai, et al.
Pubblicazione: (2025)
Distributed Massive MIMO-Aided Task Offloading in Satellite-Terrestrial Integrated Multi-Tier VEC Networks
di: Liu, Yixin, et al.
Pubblicazione: (2024)
di: Liu, Yixin, et al.
Pubblicazione: (2024)
SCOOT: SLO-Oriented Performance Tuning for LLM Inference Engines
di: Cheng, Ke, et al.
Pubblicazione: (2024)
di: Cheng, Ke, et al.
Pubblicazione: (2024)
Blockchain-Enabled Dynamic Spectrum Sharing for Satellite and Terrestrial Communication Networks
di: Wang, Zixin, et al.
Pubblicazione: (2024)
di: Wang, Zixin, et al.
Pubblicazione: (2024)
Energy Efficient Federated Learning with Hyperdimensional Computing over Wireless Communication Networks
di: Ding, Yahao, et al.
Pubblicazione: (2026)
di: Ding, Yahao, et al.
Pubblicazione: (2026)
Cloud Native System for LLM Inference Serving
di: Xu, Minxian, et al.
Pubblicazione: (2025)
di: Xu, Minxian, et al.
Pubblicazione: (2025)
Collaborative Satellite Computing through Adaptive DNN Task Splitting and Offloading
di: Peng, Shifeng, et al.
Pubblicazione: (2024)
di: Peng, Shifeng, et al.
Pubblicazione: (2024)
AMSP: Reducing Communication Overhead of ZeRO for Efficient LLM Training
di: Chen, Qiaoling, et al.
Pubblicazione: (2023)
di: Chen, Qiaoling, et al.
Pubblicazione: (2023)
Communication-Efficient Model Aggregation with Layer Divergence Feedback in Federated Learning
di: Wang, Liwei, et al.
Pubblicazione: (2024)
di: Wang, Liwei, et al.
Pubblicazione: (2024)
CONCUR: High-Throughput Agentic Batch Inference of LLM via Congestion-Based Concurrency Control
di: Chen, Qiaoling, et al.
Pubblicazione: (2026)
di: Chen, Qiaoling, et al.
Pubblicazione: (2026)
Towards Resource-Efficient Serverless LLM Inference with SLINFER
di: Xu, Chuhao, et al.
Pubblicazione: (2025)
di: Xu, Chuhao, et al.
Pubblicazione: (2025)
Distributed Generative Inference of LLM at Internet Scales with Multi-Dimensional Communication Optimization
di: Chen, Jiu, et al.
Pubblicazione: (2026)
di: Chen, Jiu, et al.
Pubblicazione: (2026)
Online Optimization of DNN Inference Network Utility in Collaborative Edge Computing
di: Li, Rui, et al.
Pubblicazione: (2024)
di: Li, Rui, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Delay-Aware Large-Small Model Collaboration over LEO Satellite Networks
di: Guo, Mingyu, et al.
Pubblicazione: (2026) -
SplitLLM: Hierarchical Split Learning for Large Language Model over Wireless Network
di: Zhang, Songge, et al.
Pubblicazione: (2025) -
Split Fine-Tuning for Large Language Models in Wireless Networks
di: Zhang, Songge, et al.
Pubblicazione: (2025) -
DFedSat: Communication-Efficient and Robust Decentralized Federated Learning for LEO Satellite Constellations
di: Yang, Minghao, et al.
Pubblicazione: (2024) -
EdgeShard: Efficient LLM Inference via Collaborative Edge Computing
di: Zhang, Mingjin, et al.
Pubblicazione: (2024)