Dynamic Quality-Latency Aware Routing for LLM Inference in Wireless Edge-Device Networks
Fuente:
arXiv
Salvato in:
| Autori principali: | Bao, Rui, Xue, Nan, Sun, Yaping, Chen, Zhiyong |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
CR^2: Cost-Aware Risk-Controlled Routing for Wireless Device-Edge LLM Inference
di: Xue, Nan, et al.
Pubblicazione: (2026)
di: Xue, Nan, et al.
Pubblicazione: (2026)
CSGO: Generalized Optimization for Cold Start in Wireless Collaborative Edge LLM Systems
di: Liu, Xuran, et al.
Pubblicazione: (2025)
di: Liu, Xuran, et al.
Pubblicazione: (2025)
WDMoE: Wireless Distributed Large Language Models with Mixture of Experts
di: Xue, Nan, et al.
Pubblicazione: (2024)
di: Xue, Nan, et al.
Pubblicazione: (2024)
WISV: Wireless-Informed Semantic Verification for Distributed Speculative Decoding in Device-Edge LLM Inference
di: Liu, Zixuan, et al.
Pubblicazione: (2026)
di: Liu, Zixuan, et al.
Pubblicazione: (2026)
WDMoE: Wireless Distributed Mixture of Experts for Large Language Models
di: Xue, Nan, et al.
Pubblicazione: (2024)
di: Xue, Nan, et al.
Pubblicazione: (2024)
MambaJSCC: Adaptive Deep Joint Source-Channel Coding with Generalized State Space Model
di: Wu, Tong, et al.
Pubblicazione: (2024)
di: Wu, Tong, et al.
Pubblicazione: (2024)
Collaborative Edge AI Inference over Cloud-RAN
di: Zhang, Pengfei, et al.
Pubblicazione: (2024)
di: Zhang, Pengfei, et al.
Pubblicazione: (2024)
A General Deep Learning Framework for Wireless Resource Allocation under Discrete Constraints
di: Wang, Yikun, et al.
Pubblicazione: (2026)
di: Wang, Yikun, et al.
Pubblicazione: (2026)
Score-Based Variational Inference for Inverse Problems
di: Xue, Zhipeng, et al.
Pubblicazione: (2024)
di: Xue, Zhipeng, et al.
Pubblicazione: (2024)
Route Experts by Sequence, not by Token
di: Wen, Tiansheng, et al.
Pubblicazione: (2025)
di: Wen, Tiansheng, et al.
Pubblicazione: (2025)
Diffusion Models for Wireless Communications
di: Letafati, Mehdi, et al.
Pubblicazione: (2023)
di: Letafati, Mehdi, et al.
Pubblicazione: (2023)
Queueing-Aware Optimization of Reasoning Tokens for Accuracy-Latency Trade-offs in LLM Servers
di: Ozbas, Emre, et al.
Pubblicazione: (2026)
di: Ozbas, Emre, et al.
Pubblicazione: (2026)
Private Collaborative Edge Inference via Over-the-Air Computation
di: Yilmaz, Selim F., et al.
Pubblicazione: (2024)
di: Yilmaz, Selim F., et al.
Pubblicazione: (2024)
Intent-Aware DRL-Based NOMA Uplink Dynamic Scheduler for IIoT
di: Mostafa, Salwa, et al.
Pubblicazione: (2024)
di: Mostafa, Salwa, et al.
Pubblicazione: (2024)
From MIM-Based GAN to Anomaly Detection:Event Probability Influence on Generative Adversarial Networks
di: She, Rui, et al.
Pubblicazione: (2022)
di: She, Rui, et al.
Pubblicazione: (2022)
A Wireless Foundation Model for Multi-Task Prediction
di: Sheng, Yucheng, et al.
Pubblicazione: (2025)
di: Sheng, Yucheng, et al.
Pubblicazione: (2025)
Two Birds with One Stone: Multi-Task Semantic Communications Systems over Relay Channel
di: Cao, Yujie, et al.
Pubblicazione: (2024)
di: Cao, Yujie, et al.
Pubblicazione: (2024)
Diffusion Model-Based Data Synthesis Aided Federated Semi-Supervised Learning
di: Wang, Zhongwei, et al.
Pubblicazione: (2025)
di: Wang, Zhongwei, et al.
Pubblicazione: (2025)
Dynamic Multi-Network Mining of Tensor Time Series
di: Obata, Kohei, et al.
Pubblicazione: (2024)
di: Obata, Kohei, et al.
Pubblicazione: (2024)
Conditional Denoising Diffusion Probabilistic Models for Data Reconstruction Enhancement in Wireless Communications
di: Letafati, Mehdi, et al.
Pubblicazione: (2023)
di: Letafati, Mehdi, et al.
Pubblicazione: (2023)
Integrated Sensing-Communication-Computation for Edge Artificial Intelligence
di: Wen, Dingzhu, et al.
Pubblicazione: (2023)
di: Wen, Dingzhu, et al.
Pubblicazione: (2023)
Conformal Sparsification for Bandwidth-Efficient Edge-Cloud Speculative Decoding
di: Bhattacharjee, Payel, et al.
Pubblicazione: (2025)
di: Bhattacharjee, Payel, et al.
Pubblicazione: (2025)
Outcome-Aware Tool Selection for Semantic Routers: Latency-Constrained Learning Without LLM Inference
di: Chen, Huamin, et al.
Pubblicazione: (2026)
di: Chen, Huamin, et al.
Pubblicazione: (2026)
Energy-Efficient Edge Learning via Joint Data Deepening-and-Prefetching
di: Kook, Sujin, et al.
Pubblicazione: (2024)
di: Kook, Sujin, et al.
Pubblicazione: (2024)
Continual Learning-Aided Super-Resolution Scheme for Channel Reconstruction and Generalization in OFDM Systems
di: Chen, Jianqiao, et al.
Pubblicazione: (2025)
di: Chen, Jianqiao, et al.
Pubblicazione: (2025)
A Simple Model of Inference Scaling Laws
di: Levi, Noam
Pubblicazione: (2024)
di: Levi, Noam
Pubblicazione: (2024)
Over-the-Air Federated Learning: Rethinking Edge AI Through Signal Processing
di: Azimi-Abarghouyi, Seyed Mohammad, et al.
Pubblicazione: (2025)
di: Azimi-Abarghouyi, Seyed Mohammad, et al.
Pubblicazione: (2025)
Trust by Design: Skill Profiles for Transparent, Cost-Aware LLM Routing
di: Okamoto, Mika, et al.
Pubblicazione: (2026)
di: Okamoto, Mika, et al.
Pubblicazione: (2026)
Recall: Empowering Multimodal Embedding for Edge Devices
di: Cai, Dongqi, et al.
Pubblicazione: (2024)
di: Cai, Dongqi, et al.
Pubblicazione: (2024)
Semantic Rate Distortion and Posterior Design: Compute Constraints, Multimodality, and Strategic Inference
di: Akyol, Emrah
Pubblicazione: (2026)
di: Akyol, Emrah
Pubblicazione: (2026)
Channel-Adaptive Edge AI: Maximizing Inference Throughput by Adapting Computational Complexity to Channel States
di: Zhang, Jierui, et al.
Pubblicazione: (2026)
di: Zhang, Jierui, et al.
Pubblicazione: (2026)
AirFM-DDA: Air-Interface Foundation Model in the Delay-Doppler-Angle Domain for AI-Native 6G
di: Bian, Kejia, et al.
Pubblicazione: (2026)
di: Bian, Kejia, et al.
Pubblicazione: (2026)
A Communication-Theoretic Framework for LLM Agents: Cost-Aware Adaptive Reliability
di: Omidvar, Hamed, et al.
Pubblicazione: (2026)
di: Omidvar, Hamed, et al.
Pubblicazione: (2026)
MARS: Margin and Semantic-Aware Data Augmentation for Reward Modeling
di: Bhattacharjee, Payel, et al.
Pubblicazione: (2026)
di: Bhattacharjee, Payel, et al.
Pubblicazione: (2026)
Environment-Aware Transfer Reinforcement Learning for Sustainable Beam Selection
di: Salami, Dariush, et al.
Pubblicazione: (2025)
di: Salami, Dariush, et al.
Pubblicazione: (2025)
Dynamic Scheduling for Vehicle-to-Vehicle Communications Enhanced Federated Learning
di: Yan, Jintao, et al.
Pubblicazione: (2024)
di: Yan, Jintao, et al.
Pubblicazione: (2024)
Hierarchical Over-the-Air Federated Learning with Awareness of Interference and Data Heterogeneity
di: Azimi-Abarghouyi, Seyed Mohammad, et al.
Pubblicazione: (2024)
di: Azimi-Abarghouyi, Seyed Mohammad, et al.
Pubblicazione: (2024)
Neuromorphic Wireless Device-Edge Co-Inference via the Directed Information Bottleneck
di: Ke, Yuzhen, et al.
Pubblicazione: (2024)
di: Ke, Yuzhen, et al.
Pubblicazione: (2024)
Trust Region Masking for Long-Horizon LLM Reinforcement Learning
di: Li, Yingru, et al.
Pubblicazione: (2025)
di: Li, Yingru, et al.
Pubblicazione: (2025)
GeoIB: Geometry-Aware Information Bottleneck via Statistical-Manifold Compression
di: Wang, Weiqi, et al.
Pubblicazione: (2026)
di: Wang, Weiqi, et al.
Pubblicazione: (2026)
Documenti analoghi
-
CR^2: Cost-Aware Risk-Controlled Routing for Wireless Device-Edge LLM Inference
di: Xue, Nan, et al.
Pubblicazione: (2026) -
CSGO: Generalized Optimization for Cold Start in Wireless Collaborative Edge LLM Systems
di: Liu, Xuran, et al.
Pubblicazione: (2025) -
WDMoE: Wireless Distributed Large Language Models with Mixture of Experts
di: Xue, Nan, et al.
Pubblicazione: (2024) -
WISV: Wireless-Informed Semantic Verification for Distributed Speculative Decoding in Device-Edge LLM Inference
di: Liu, Zixuan, et al.
Pubblicazione: (2026) -
WDMoE: Wireless Distributed Mixture of Experts for Large Language Models
di: Xue, Nan, et al.
Pubblicazione: (2024)