Gespeichert in:
| Hauptverfasser: | Behera, Adarsh Prasad, Daubaris, Paulius, Bravo, Iñaki, Gallego, José, Morabito, Roberto, Widmer, Joerg, Champati, Jaya Prakash Varma |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | https://arxiv.org/abs/2407.11061 |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Improved Decision Module Selection for Hierarchical Inference in Resource-Constrained Edge Devices
von: Behera, Adarsh Prasad, et al.
Veröffentlicht: (2024)
von: Behera, Adarsh Prasad, et al.
Veröffentlicht: (2024)
Towards Efficient Multi-LLM Inference: Characterization and Analysis of LLM Routing and Hierarchical Techniques
von: Behera, Adarsh Prasad, et al.
Veröffentlicht: (2025)
von: Behera, Adarsh Prasad, et al.
Veröffentlicht: (2025)
Inference Offloading for Cost-Sensitive Binary Classification at the Edge
von: Moothedath, Vishnu Narayanan, et al.
Veröffentlicht: (2025)
von: Moothedath, Vishnu Narayanan, et al.
Veröffentlicht: (2025)
2D-AoI: Age-of-Information of Distributed Sensors for Spatio-Temporal Processes
von: Fidler, Markus, et al.
Veröffentlicht: (2024)
von: Fidler, Markus, et al.
Veröffentlicht: (2024)
Online Algorithms for Hierarchical Inference in Deep Learning applications at the Edge
von: Moothedath, Vishnu Narayanan, et al.
Veröffentlicht: (2023)
von: Moothedath, Vishnu Narayanan, et al.
Veröffentlicht: (2023)
Low-Regret and Low-Complexity Learning for Hierarchical Inference
von: Chattopadhyay, Sameep, et al.
Veröffentlicht: (2025)
von: Chattopadhyay, Sameep, et al.
Veröffentlicht: (2025)
Error Bounds for the Network Scale-Up Method
von: Díaz-Aranda, Sergio, et al.
Veröffentlicht: (2024)
von: Díaz-Aranda, Sergio, et al.
Veröffentlicht: (2024)
Future-Proofing Mobile Networks: A Digital Twin Approach to Multi-Signal Management
von: Morabito, Roberto, et al.
Veröffentlicht: (2024)
von: Morabito, Roberto, et al.
Veröffentlicht: (2024)
Pico-Cloud: Cloud Infrastructure for Tiny Edge Devices
von: Guri, Mordechai
Veröffentlicht: (2025)
von: Guri, Mordechai
Veröffentlicht: (2025)
Edge-First Language Model Inference: Models, Metrics, and Tradeoffs
von: Jang, SiYoung, et al.
Veröffentlicht: (2025)
von: Jang, SiYoung, et al.
Veröffentlicht: (2025)
Inference Acceleration for Large Language Models on CPUs
von: PS, Ditto, et al.
Veröffentlicht: (2024)
von: PS, Ditto, et al.
Veröffentlicht: (2024)
Challenging GPU Dominance: When CPUs Outperform for On-Device LLM Inference
von: Zhang, Haolin, et al.
Veröffentlicht: (2025)
von: Zhang, Haolin, et al.
Veröffentlicht: (2025)
Sometimes Painful but Certainly Promising: Feasibility and Trade-offs of Language Model Inference at the Edge
von: Abstreiter, Maximilian, et al.
Veröffentlicht: (2025)
von: Abstreiter, Maximilian, et al.
Veröffentlicht: (2025)
Agentic TinyML for Intent-aware Handover in 6G Wireless Networks
von: Saleh, Alaa, et al.
Veröffentlicht: (2025)
von: Saleh, Alaa, et al.
Veröffentlicht: (2025)
Efficient Federated Finetuning of Tiny Transformers with Resource-Constrained Devices
von: Pfeiffer, Kilian, et al.
Veröffentlicht: (2024)
von: Pfeiffer, Kilian, et al.
Veröffentlicht: (2024)
Device Sampling and Resource Optimization for Federated Learning in Cooperative Edge Networks
von: Wang, Su, et al.
Veröffentlicht: (2023)
von: Wang, Su, et al.
Veröffentlicht: (2023)
Tiny but Mighty: A Software-Hardware Co-Design Approach for Efficient Multimodal Inference on Battery-Powered Small Devices
von: Li, Yilong, et al.
Veröffentlicht: (2025)
von: Li, Yilong, et al.
Veröffentlicht: (2025)
NEST: Network- and Memory-Aware Device Placement For Distributed Deep Learning
von: Wang, Irene, et al.
Veröffentlicht: (2026)
von: Wang, Irene, et al.
Veröffentlicht: (2026)
Where Do the Joules Go? Diagnosing Inference Energy Consumption
von: Chung, Jae-Won, et al.
Veröffentlicht: (2026)
von: Chung, Jae-Won, et al.
Veröffentlicht: (2026)
Minimizing Age of Detection for a Markov Source over a Lossy Channel
von: Garde, Shivang, et al.
Veröffentlicht: (2025)
von: Garde, Shivang, et al.
Veröffentlicht: (2025)
Enhancing Predictive Maintenance in Mining Mobile Machinery through a TinyML-enabled Hierarchical Inference Network
von: de la Fuente, Raúl, et al.
Veröffentlicht: (2024)
von: de la Fuente, Raúl, et al.
Veröffentlicht: (2024)
Distributed On-Device LLM Inference With Over-the-Air Computation
von: Zhang, Kai, et al.
Veröffentlicht: (2025)
von: Zhang, Kai, et al.
Veröffentlicht: (2025)
Recipes for Pre-training LLMs with MXFP8
von: Mishra, Asit, et al.
Veröffentlicht: (2025)
von: Mishra, Asit, et al.
Veröffentlicht: (2025)
Inference Load-Aware Orchestration for Hierarchical Federated Learning
von: Lackinger, Anna, et al.
Veröffentlicht: (2024)
von: Lackinger, Anna, et al.
Veröffentlicht: (2024)
PerCache: Predictive Hierarchical Cache for RAG Applications on Mobile Devices
von: Liu, Kaiwei, et al.
Veröffentlicht: (2025)
von: Liu, Kaiwei, et al.
Veröffentlicht: (2025)
Smaller, Smarter, Closer: The Edge of Collaborative Generative AI
von: Morabito, Roberto, et al.
Veröffentlicht: (2025)
von: Morabito, Roberto, et al.
Veröffentlicht: (2025)
Practical Performance Guarantees for Pipelined DNN Inference
von: Archer, Aaron, et al.
Veröffentlicht: (2023)
von: Archer, Aaron, et al.
Veröffentlicht: (2023)
Evaluating Multi-Instance DNN Inferencing on Multiple Accelerators of an Edge Device
von: Tayal, Mumuksh, et al.
Veröffentlicht: (2025)
von: Tayal, Mumuksh, et al.
Veröffentlicht: (2025)
SLICE: SLO-Driven Scheduling for LLM Inference on Edge Computing Devices
von: Chow, Will
Veröffentlicht: (2025)
von: Chow, Will
Veröffentlicht: (2025)
PICO: Pipeline Inference Framework for Versatile CNNs on Diverse Mobile Devices
von: Yang, Xiang, et al.
Veröffentlicht: (2022)
von: Yang, Xiang, et al.
Veröffentlicht: (2022)
Device Scheduling and Assignment in Hierarchical Federated Learning for Internet of Things
von: Zhang, Tinghao, et al.
Veröffentlicht: (2024)
von: Zhang, Tinghao, et al.
Veröffentlicht: (2024)
AdaOper: Energy-efficient and Responsive Concurrent DNN Inference on Mobile Devices
von: Lin, Zheng, et al.
Veröffentlicht: (2024)
von: Lin, Zheng, et al.
Veröffentlicht: (2024)
LIME:Accelerating Collaborative Lossless LLM Inference on Memory-Constrained Edge Devices
von: Sun, Mingyu, et al.
Veröffentlicht: (2025)
von: Sun, Mingyu, et al.
Veröffentlicht: (2025)
Token Level Routing Inference System for Edge Devices
von: She, Jianshu, et al.
Veröffentlicht: (2025)
von: She, Jianshu, et al.
Veröffentlicht: (2025)
Adaptive Stream Processing on Edge Devices through Active Inference
von: Sedlak, Boris, et al.
Veröffentlicht: (2024)
von: Sedlak, Boris, et al.
Veröffentlicht: (2024)
Kraken: Inherently Parallel Transformers For Efficient Multi-Device Inference
von: Prabhakar, Rohan Baskar, et al.
Veröffentlicht: (2024)
von: Prabhakar, Rohan Baskar, et al.
Veröffentlicht: (2024)
Pay for Hints, Not Answers: LLM Shepherding for Cost-Efficient Inference
von: Dong, Ziming, et al.
Veröffentlicht: (2026)
von: Dong, Ziming, et al.
Veröffentlicht: (2026)
Adaptive Device-Edge Collaboration on DNN Inference in AIoT: A Digital Twin-Assisted Approach
von: Hu, Shisheng, et al.
Veröffentlicht: (2024)
von: Hu, Shisheng, et al.
Veröffentlicht: (2024)
FlexPie: Accelerate Distributed Inference on Edge Devices with Flexible Combinatorial Optimization[Technical Report]
von: Zhang, Runhua, et al.
Veröffentlicht: (2025)
von: Zhang, Runhua, et al.
Veröffentlicht: (2025)
Serial Parallel Reliability Redundancy Allocation Optimization for Energy Efficient and Fault Tolerant Cloud Computing
von: Krishna, Gutha Jaya
Veröffentlicht: (2024)
von: Krishna, Gutha Jaya
Veröffentlicht: (2024)
Ähnliche Einträge
-
Improved Decision Module Selection for Hierarchical Inference in Resource-Constrained Edge Devices
von: Behera, Adarsh Prasad, et al.
Veröffentlicht: (2024) -
Towards Efficient Multi-LLM Inference: Characterization and Analysis of LLM Routing and Hierarchical Techniques
von: Behera, Adarsh Prasad, et al.
Veröffentlicht: (2025) -
Inference Offloading for Cost-Sensitive Binary Classification at the Edge
von: Moothedath, Vishnu Narayanan, et al.
Veröffentlicht: (2025) -
2D-AoI: Age-of-Information of Distributed Sensors for Spatio-Temporal Processes
von: Fidler, Markus, et al.
Veröffentlicht: (2024) -
Online Algorithms for Hierarchical Inference in Deep Learning applications at the Edge
von: Moothedath, Vishnu Narayanan, et al.
Veröffentlicht: (2023)