Buchumschlag

Fast Collaborative Inference via Distributed Speculative Decoding

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zheng, Ce, Zhang, Ke, Sun, Chen, Zhang, Wenqi, Liu, Qiong, Tesfay, Angesom Ataklity
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Signal Processing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Communication-Efficient Collaborative LLM Inference via Distributed Speculative Decoding
von: Zheng, Ce, et al.
Veröffentlicht: (2025)

DSSD: Efficient Edge-Device LLM Deployment and Collaborative Inference via Distributed Split Speculative Decoding
von: Ning, Jiahong, et al.
Veröffentlicht: (2025)

SpecFed: Accelerating Federated LLM Inference with Speculative Decoding and Compressed Transmission
von: Zheng, Ce, et al.
Veröffentlicht: (2026)

Collaborative Large Language Model Inference via Resource-Aware Parallel Speculative Decoding
von: Koh, Jungyeon, et al.
Veröffentlicht: (2025)

Clustering-Based User Selection in Federated Learning: Metadata Exploitation for 3GPP Networks
von: Zheng, Ce, et al.
Veröffentlicht: (2026)

EdgePrompt: A Distributed Key-Value Inference Framework for LLMs in 6G Networks
von: Ning, Jiahong, et al.
Veröffentlicht: (2025)

Quantize-Sample-and-Verify: LLM Acceleration via Adaptive Edge-Cloud Speculative Decoding
von: Zhang, Guangyi, et al.
Veröffentlicht: (2025)

Analysis and Algorithm for Multi IRS Collaborative Localization via Hybrid Time Angle Estimation
von: Zhang, Ziheng, et al.
Veröffentlicht: (2025)

Instance Communication System for Intelligent Connected Vehicles: Bridging the Gap from Semantic to Instance-Level Transmission
von: Zhang, Daiqi, et al.
Veröffentlicht: (2025)

Collaborative Automotive Radar Sensing via Mixed-Precision Distributed Array Completion
von: Eamaz, Arian, et al.
Veröffentlicht: (2024)

Low-Latency Edge LLM Handover via Joint KV Cache Transfer and Token Prefill
von: Lee, Seunghun, et al.
Veröffentlicht: (2026)

Towards a Theoretical Framework for Robust Node Deployment in Cooperative ISAC Networks
von: Li, Haojin, et al.
Veröffentlicht: (2026)

An Electrocardiogram Monitoring Device Based on STM32
von: Guan, Wenqi
Veröffentlicht: (2024)

Inference-Optimal ISAC via Task-Oriented Feature Transmission and Power Allocation
von: Dong, Biao, et al.
Veröffentlicht: (2025)

Knowledge Distillation for Collaborative Learning in Distributed Communications and Sensing
von: Nguyen, Nhan Thanh, et al.
Veröffentlicht: (2026)

Digital Wireless Image Transmission via Distribution Matching
von: Yang, Pujing, et al.
Veröffentlicht: (2024)

Channel Capacity-Aware Distributed Encoding for Multi-View Sensing and Edge Inference
von: Yang, Mingjie, et al.
Veröffentlicht: (2024)

Efficient Semantic-aware Encryption for Secure Communications in Intelligent Connected Vehicles
von: Wang, Bizhu, et al.
Veröffentlicht: (2025)

IPRU: Input-Perturbation-based Radio Frequency Fingerprinting Unlearning for LAWNs
von: Liu, Ce, et al.
Veröffentlicht: (2026)

Low Complexity Weight Flexible Decoding Schemes of Linear Block Code for 6G xURLLC
von: Zhang, Di, et al.
Veröffentlicht: (2025)

Collaborative Edge Inference via Semantic Grouping under Wireless Channel Constraints
von: Mota, Mateus P., et al.
Veröffentlicht: (2025)

No Vision, No Wearables: 5G-based 2D Human Pose Recognition with Integrated Sensing and Communications
von: Li, Haojin, et al.
Veröffentlicht: (2025)

CoDS: Collaborative Perception via Digital Semantic Communication
von: Gan, Jipeng, et al.
Veröffentlicht: (2025)

Radio-Based Passive Target Tracking by a Mobile Receiver with Unknown Transmitter Position
von: Xu, Ke, et al.
Veröffentlicht: (2024)

Efficient Airy Beam Training for Quasi-LoS Terahertz Near-Field Communications
von: Zhao, Wenqi, et al.
Veröffentlicht: (2026)

Cramér-Rao Bound Optimization for Fluid Antenna-Empowered Integrated Sensing and Uplink Communication System
von: Guo, Yuan, et al.
Veröffentlicht: (2025)

Distributed Collaborative User Positioning for Cell-Free Massive MIMO with Multi-Agent Reinforcement Learning
von: Liu, Ziheng, et al.
Veröffentlicht: (2024)

Synesthesia of Machines (SoM)-Aided LiDAR Point Cloud Transmission for Collaborative Perception
von: Liu, Ensong, et al.
Veröffentlicht: (2025)

Path-Level Radio Map-Aided Fast and Robust Channel Estimation for Pilot-Starved MIMO-OFDM Systems
von: Wang, Xiucheng, et al.
Veröffentlicht: (2026)

Enabling Scalable Distributed Beamforming via Networked LEO Satellites Towards 6G
von: Zhang, Yuchen, et al.
Veröffentlicht: (2025)

Two-Way Aerial Secure Communications via Distributed Collaborative Beamforming under Eavesdropper Collusion
von: Li, Jiahui, et al.
Veröffentlicht: (2024)

Motor Imagery Decoding Using Ensemble Curriculum Learning and Collaborative Training
von: Zoumpourlis, Georgios, et al.
Veröffentlicht: (2022)

MCANet: A Coherent Multimodal Collaborative Attention Network for Advanced Modulation Recognition in Adverse Noisy Environments
von: Jiang, Wangye, et al.
Veröffentlicht: (2025)

Channel Charting based Fast Beam Tracking Design and Implementation
von: Zhang, Jiawei, et al.
Veröffentlicht: (2025)

Know What, Know Why: Semantic Hazard Communication for Intelligent V2X Systems
von: Sun, Chen, et al.
Veröffentlicht: (2025)

Optimal and Suboptimal Decoders under Finite-Alphabet Interference: A Mismatched Decoding Perspective
von: Zhang, Sibo, et al.
Veröffentlicht: (2025)

A Novel Site-Specific Inference Model for Urban Canyon Channels: From Measurements to Modeling
von: Song, Junzhe, et al.
Veröffentlicht: (2025)

FGFRFT: Fast Graph Fractional Fourier Transform via Exact Spectral Splitting and Fourier-Series Approximation
von: Yan, Ziqi, et al.
Veröffentlicht: (2026)

Enhancing Satellite Quantum Key Distribution with Dual Band Reconfigurable Intelligent Surfaces
von: Khalil, Muhammad, et al.
Veröffentlicht: (2025)

Causal Inference based Transfer Learning with LLMs: An Efficient Framework for Industrial RUL Prediction
von: Chen, Yan, et al.
Veröffentlicht: (2025)