RedunCut: Measurement-Driven Sampling and Accuracy Performance Modeling for Low-Cost Live Video Analytics
Fuente:
arXiv
Salvato in:
| Autori principali: | Sela, Gur-Eyal, Agrawal, Kumar Krishna, Balaji, Bharathan, Gonzalez, Joseph, Stoica, Ion |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Towards Efficient and Practical GPU Multitasking in the Era of LLM
di: Xing, Jiarong, et al.
Pubblicazione: (2025)
di: Xing, Jiarong, et al.
Pubblicazione: (2025)
SkyStore: Cost-Optimized Object Storage Across Regions and Clouds
di: Liu, Shu, et al.
Pubblicazione: (2025)
di: Liu, Shu, et al.
Pubblicazione: (2025)
Mélange: Cost Efficient Large Language Model Serving by Exploiting GPU Heterogeneity
di: Griggs, Tyler, et al.
Pubblicazione: (2024)
di: Griggs, Tyler, et al.
Pubblicazione: (2024)
MuxServe: Flexible Spatial-Temporal Multiplexing for Multiple LLM Serving
di: Duan, Jiangfei, et al.
Pubblicazione: (2024)
di: Duan, Jiangfei, et al.
Pubblicazione: (2024)
RLBoost: Harvesting Preemptible Resources for Cost-Efficient Reinforcement Learning on LLMs
di: Wu, Yongji, et al.
Pubblicazione: (2025)
di: Wu, Yongji, et al.
Pubblicazione: (2025)
A Study of Synchronization Methods for Concurrent Size
di: Kas-Sharir, Hen, et al.
Pubblicazione: (2025)
di: Kas-Sharir, Hen, et al.
Pubblicazione: (2025)
SkyWalker: A Locality-Aware Cross-Region Load Balancer for LLM Inference
di: Xia, Tian, et al.
Pubblicazione: (2025)
di: Xia, Tian, et al.
Pubblicazione: (2025)
Unleashing Scalable Context Parallelism for Foundation Models Pre-Training via FCP
di: Zhao, Yilong, et al.
Pubblicazione: (2026)
di: Zhao, Yilong, et al.
Pubblicazione: (2026)
Jenga: Effective Memory Management for Serving LLM with Heterogeneity
di: Zhang, Chen, et al.
Pubblicazione: (2025)
di: Zhang, Chen, et al.
Pubblicazione: (2025)
Pie: Pooling CPU Memory for LLM Inference
di: Xu, Yi, et al.
Pubblicazione: (2024)
di: Xu, Yi, et al.
Pubblicazione: (2024)
OCTOPINF: Workload-Aware Inference Serving for Edge Video Analytics
di: Nguyen, Thanh-Tung, et al.
Pubblicazione: (2025)
di: Nguyen, Thanh-Tung, et al.
Pubblicazione: (2025)
PrefillOnly: An Inference Engine for Prefill-only Workloads in Large Language Model Applications
di: Du, Kuntai, et al.
Pubblicazione: (2025)
di: Du, Kuntai, et al.
Pubblicazione: (2025)
Tangram: High-resolution Video Analytics on Serverless Platform with SLO-aware Batching
di: Peng, Haosong, et al.
Pubblicazione: (2024)
di: Peng, Haosong, et al.
Pubblicazione: (2024)
AES-SpMM: Balancing Accuracy and Speed by Adaptive Edge Sampling Strategy to Accelerate SpMM in GNNs
di: Song, Yingchen, et al.
Pubblicazione: (2025)
di: Song, Yingchen, et al.
Pubblicazione: (2025)
A Review of Ontology-Driven Big Data Analytics in Healthcare: Challenges, Tools, and Applications
di: Chandra, Ritesh, et al.
Pubblicazione: (2025)
di: Chandra, Ritesh, et al.
Pubblicazione: (2025)
Flash-KMeans: Fast and Memory-Efficient Exact K-Means
di: Yang, Shuo, et al.
Pubblicazione: (2026)
di: Yang, Shuo, et al.
Pubblicazione: (2026)
FCPO: Federated Continual Policy Optimization for Real-Time High-Throughput Edge Video Analytics
di: Liebe, Lucas, et al.
Pubblicazione: (2025)
di: Liebe, Lucas, et al.
Pubblicazione: (2025)
Hyperion: Low-Latency Ultra-HD Video Analytics via Collaborative Vision Transformer Inference
di: Jiang, Linyi, et al.
Pubblicazione: (2025)
di: Jiang, Linyi, et al.
Pubblicazione: (2025)
Foundry: Template-Based CUDA Graph Context Materialization for Fast LLM Serving Cold Start
di: Liu, Xueshen, et al.
Pubblicazione: (2026)
di: Liu, Xueshen, et al.
Pubblicazione: (2026)
The Dawn of Disaggregation and the Coherence Conundrum: A Call for Federated Coherence
di: Hong, Jaewan, et al.
Pubblicazione: (2025)
di: Hong, Jaewan, et al.
Pubblicazione: (2025)
PPipe: Efficient Video Analytics Serving on Heterogeneous GPU Clusters via Pool-Based Pipeline Parallelism
di: Kong, Z. Jonny, et al.
Pubblicazione: (2025)
di: Kong, Z. Jonny, et al.
Pubblicazione: (2025)
Understanding and Reducing Metadata-Driven Host Overheads in Sampling-Based GNN Training
di: Gong, Yidong, et al.
Pubblicazione: (2026)
di: Gong, Yidong, et al.
Pubblicazione: (2026)
Towards Reconfigurable Linearizable Reads
di: Thiessen, Myles, et al.
Pubblicazione: (2024)
di: Thiessen, Myles, et al.
Pubblicazione: (2024)
Resilience through Automated Adaptive Configuration for Distribution and Replication
di: Stoller, Scott D., et al.
Pubblicazione: (2025)
di: Stoller, Scott D., et al.
Pubblicazione: (2025)
LLM-Emu: Native Runtime Emulation of LLM Inference via Profile-Driven Sampling
di: Da, Wei, et al.
Pubblicazione: (2026)
di: Da, Wei, et al.
Pubblicazione: (2026)
LiveR: Fine-Grained Elasticity via Live Reconfiguration for Model Training
di: Liu, Haoyuan, et al.
Pubblicazione: (2026)
di: Liu, Haoyuan, et al.
Pubblicazione: (2026)
On Optimizing the Communication of Model Parallelism
di: Zhuang, Yonghao, et al.
Pubblicazione: (2022)
di: Zhuang, Yonghao, et al.
Pubblicazione: (2022)
Wave-Based Dispatch for Circuit Cutting in Hybrid HPC--Quantum Systems
di: García-Raigada, Ricard S., et al.
Pubblicazione: (2026)
di: García-Raigada, Ricard S., et al.
Pubblicazione: (2026)
FedCostAware: Enabling Cost-Aware Federated Learning on the Cloud
di: Sinha, Aditya, et al.
Pubblicazione: (2025)
di: Sinha, Aditya, et al.
Pubblicazione: (2025)
Raptr: Prefix Consensus for Robust High-Performance BFT
di: Tonkikh, Andrei, et al.
Pubblicazione: (2025)
di: Tonkikh, Andrei, et al.
Pubblicazione: (2025)
Enhanced Quantum Circuit Cutting Framework for Sampling Overhead Reduction
di: Chen, Po-Hung, et al.
Pubblicazione: (2024)
di: Chen, Po-Hung, et al.
Pubblicazione: (2024)
Delta Fair Sharing: Performance Isolation for Multi-Tenant Storage Systems
di: Griggs, Tyler, et al.
Pubblicazione: (2026)
di: Griggs, Tyler, et al.
Pubblicazione: (2026)
Quantifying Liveness and Safety of Avalanche's Snowball
di: Kniep, Quentin, et al.
Pubblicazione: (2024)
di: Kniep, Quentin, et al.
Pubblicazione: (2024)
Shoal++: High Throughput DAG BFT Can Be Fast!
di: Arun, Balaji, et al.
Pubblicazione: (2024)
di: Arun, Balaji, et al.
Pubblicazione: (2024)
Strong Linearizability without Compare&Swap: The Case of Bags
di: Ellen, Faith, et al.
Pubblicazione: (2024)
di: Ellen, Faith, et al.
Pubblicazione: (2024)
Concurrent aggregate queries
di: Sela, Gal, et al.
Pubblicazione: (2024)
di: Sela, Gal, et al.
Pubblicazione: (2024)
IPA: Inference Pipeline Adaptation to Achieve High Accuracy and Cost-Efficiency
di: Ghafouri, Saeid, et al.
Pubblicazione: (2023)
di: Ghafouri, Saeid, et al.
Pubblicazione: (2023)
Scalable Distributed Vector Search via Accuracy Preserving Index Construction
di: Xu, Yuming, et al.
Pubblicazione: (2025)
di: Xu, Yuming, et al.
Pubblicazione: (2025)
TOD: Transprecise Object Detection to Maximise Real-Time Accuracy on the Edge
di: Lee, JunKyu, et al.
Pubblicazione: (2021)
di: Lee, JunKyu, et al.
Pubblicazione: (2021)
TierBase: A Workload-Driven Cost-Optimized Key-Value Store
di: Shen, Zhitao, et al.
Pubblicazione: (2025)
di: Shen, Zhitao, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Towards Efficient and Practical GPU Multitasking in the Era of LLM
di: Xing, Jiarong, et al.
Pubblicazione: (2025) -
SkyStore: Cost-Optimized Object Storage Across Regions and Clouds
di: Liu, Shu, et al.
Pubblicazione: (2025) -
Mélange: Cost Efficient Large Language Model Serving by Exploiting GPU Heterogeneity
di: Griggs, Tyler, et al.
Pubblicazione: (2024) -
MuxServe: Flexible Spatial-Temporal Multiplexing for Multiple LLM Serving
di: Duan, Jiangfei, et al.
Pubblicazione: (2024) -
RLBoost: Harvesting Preemptible Resources for Cost-Efficient Reinforcement Learning on LLMs
di: Wu, Yongji, et al.
Pubblicazione: (2025)