Buchumschlag

Rethinking Network Topologies for Cost-Effective Mixture-of-Experts LLM Serving

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Choi, Junsun, Son, Sam, Choi, Sunjin, Kim, Hansung, Shao, Yakun Sophia, Shenker, Scott, Ratnasamy, Sylvia, Nikolic, Borivoje
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Networking and Internet Architecture Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

EnCoR: An end-to-end architecture for simplifying cellular networks
von: Woo, Wesley, et al.
Veröffentlicht: (2026)

TURBO: Utility-Aware Bandwidth Allocation for Cloud-Augmented Autonomous Control
von: Schafhalter, Peter, et al.
Veröffentlicht: (2025)

Load Balancing for AI Training Workloads
von: McClure, Sarah, et al.
Veröffentlicht: (2025)

Managing Bandwidth: The Key to Cloud-Assisted Autonomous Driving
von: Krentsel, Alexander, et al.
Veröffentlicht: (2024)

Fast Networks for High-Performance Distributed Trust
von: Liu, Yicheng, et al.
Veröffentlicht: (2025)

CrossCheck: Input Validation for WAN Control Systems
von: Krentsel, Alexander, et al.
Veröffentlicht: (2026)

GATE: GPU-Accelerated Traffic Engineering for the WAN
von: Bothra, Rahul, et al.
Veröffentlicht: (2026)

M3LLM: Model Context Protocol-aided Mixture of Vision Experts For Multimodal LLMs in Networks
von: Zeng, Yongjie, et al.
Veröffentlicht: (2025)

EMS-FL: Federated Tuning of Mixture-of-Experts in Satellite-Terrestrial Networks via Expert-Driven Model Splitting
von: Xu, Angzi, et al.
Veröffentlicht: (2026)

Fusion of Mixture of Experts and Generative Artificial Intelligence in Mobile Edge Metaverse
von: Liu, Guangyuan, et al.
Veröffentlicht: (2024)

Modeling and Analysis of Coexistence Between MLO NSTR-based Wi-Fi 7 and Legacy Wi-Fi
von: Jung, Suhwan, et al.
Veröffentlicht: (2025)

Not All Prefills Are Equal: PPD Disaggregation for Multi-turn LLM Serving
von: Li, Zongze, et al.
Veröffentlicht: (2026)

Toward Scalable Generative AI via Mixture of Experts in Mobile Edge Networks
von: Wang, Jiacheng, et al.
Veröffentlicht: (2024)

Resilient LLM-Empowered Semantic MAC Protocols via Zero-Shot Adaptation and Knowledge Distillation
von: Kim, Yongjun, et al.
Veröffentlicht: (2025)

SpaceMoE: Towards Orbital General Intelligence with Distributed Mixture-of-Experts Inference
von: Chen, Qian, et al.
Veröffentlicht: (2026)

SONIC: Cost-Effective Web Access for Developing Countries
von: Pandey, Ayush, et al.
Veröffentlicht: (2025)

Optimizing Generative AI Networking: A Dual Perspective with Multi-Agent Systems and Mixture of Experts
von: Zhang, Ruichen, et al.
Veröffentlicht: (2024)

Revisiting Cache Freshness for Emerging Real-Time Applications
von: Mao, Ziming, et al.
Veröffentlicht: (2024)

Odin: Effective End-to-End SLA Decomposition for 5G/6G Network Slicing via Online Learning
von: Cheng, Duo, et al.
Veröffentlicht: (2025)

A Zigbee Based Cost-Effective Home Monitoring System Using WSN
von: Rayalu, Garapati Venkata Krishna, et al.
Veröffentlicht: (2023)

SNAKE: A Sustainable and Multi-functional Traffic Analysis System utilizing Specialized Large-Scale Models with a Mixture of Experts Architecture
von: Qin, Tian, et al.
Veröffentlicht: (2025)

Model Context Protocol-based Internet of Experts For Wireless Environment-aware LLM Agents
von: Liu, Zongxi, et al.
Veröffentlicht: (2025)

MODRIC: A Cost Effective MODular Data Center Network Architecture with Rich InterConnections
von: Medhi, Nabajyoti, et al.
Veröffentlicht: (2025)

Enhancing Reliability in LEO Satellite Networks via High-Speed Inter-Satellite Links
von: Choi, Jinho
Veröffentlicht: (2024)

Mixture of Experts for Network Optimization: A Large Language Model-enabled Approach
von: Du, Hongyang, et al.
Veröffentlicht: (2024)

Optimizing Mixture-of-Experts Inference Time Combining Model Deployment and Communication Scheduling
von: Li, Jialong, et al.
Veröffentlicht: (2024)

Benchmarking OpenWiFiSync on ESP32: Towards Cost-Effective Wireless Time Synchronization
von: Gundall, Michael, et al.
Veröffentlicht: (2025)

Meta-Reinforcement Learning With Mixture of Experts for Generalizable Multi Access in Heterogeneous Wireless Networks
von: Liu, Zhaoyang, et al.
Veröffentlicht: (2024)

GPUs, CPUs, and... NICs: Rethinking the Network's Role in Serving Complex AI Pipelines
von: Wong, Mike, et al.
Veröffentlicht: (2025)

Your Mega-Constellations Can Be Slim:A Cost-Effective Approach for Constructing Survivable and Performant LEO Satellite Networks
von: Lai, Zeqi, et al.
Veröffentlicht: (2024)

Coffee: Cost-Effective Edge Caching for 360 Degree Live Video Streaming
von: Li, Chen, et al.
Veröffentlicht: (2023)

oneTwin: Online Digital Network Twin via Neural Radio Radiance Field
von: Zhang, Yuru, et al.
Veröffentlicht: (2026)

Serv-Drishti: An Interactive Serverless Function Request Simulation Engine and Visualiser
von: Agarwal, Siddharth, et al.
Veröffentlicht: (2025)

Fast Heterogeneous Serving: Scalable Mixed-Scale LLM Allocation for SLO-Constrained Inference
von: Cheng, Jiaming, et al.
Veröffentlicht: (2026)

PolicyCache-SDN: Hierarchical Intra-Path Learning for Adaptive SDN Traffic Control
von: Jia, Wenyang, et al.
Veröffentlicht: (2026)

Bridging Local and Global Knowledge: Cascaded Mixture-of-Experts Learning for Near-Shortest Path Routing
von: Chen, Yung-Fu, et al.
Veröffentlicht: (2026)

MixNet: A Runtime Reconfigurable Optical-Electrical Fabric for Distributed Mixture-of-Experts Training
von: Liao, Xudong, et al.
Veröffentlicht: (2025)

Mixture of Experts for Decentralized Generative AI and Reinforcement Learning in Wireless Networks: A Comprehensive Survey
von: Xu, Yunting, et al.
Veröffentlicht: (2025)

Multi-stage Flow Scheduling for LLM Serving
von: Sun, Yijun, et al.
Veröffentlicht: (2026)

Edge-Served Congestion Control for Wireless Multipath Transmission with a Transformer Agent
von: Wang, Liang
Veröffentlicht: (2025)