FLASH Viterbi: Fast and Adaptive Viterbi Decoding for Modern Data Systems
Fuente:
arXiv
Salvato in:
| Autori principali: | Deng, Ziheng, Liu, Xue, Jiang, Jiantong, Li, Yankai, Deng, Qingxu, Yang, Xiaochun |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
ThirstyFLOPS: Water Footprint Modeling and Analysis Toward Sustainable HPC Systems
di: Jiang, Yankai, et al.
Pubblicazione: (2025)
di: Jiang, Yankai, et al.
Pubblicazione: (2025)
STRATUS: A Multi-agent System for Autonomous Reliability Engineering of Modern Clouds
di: Chen, Yinfang, et al.
Pubblicazione: (2025)
di: Chen, Yinfang, et al.
Pubblicazione: (2025)
EcoLife: Carbon-Aware Serverless Function Scheduling for Sustainable Computing
di: Jiang, Yankai, et al.
Pubblicazione: (2024)
di: Jiang, Yankai, et al.
Pubblicazione: (2024)
Ghidorah: Fast LLM Inference on Edge with Speculative Decoding and Hetero-Core Parallelism
di: Wei, Jinhui, et al.
Pubblicazione: (2025)
di: Wei, Jinhui, et al.
Pubblicazione: (2025)
Communication-Efficient Distributed Learning via Sparse and Adaptive Stochastic Gradient
di: Deng, Xiaoge, et al.
Pubblicazione: (2021)
di: Deng, Xiaoge, et al.
Pubblicazione: (2021)
SwiftSpec: Ultra-Low Latency LLM Decoding by Scaling Asynchronous Speculative Decoding
di: Zhang, Ziyi, et al.
Pubblicazione: (2025)
di: Zhang, Ziyi, et al.
Pubblicazione: (2025)
WaterWise: Co-optimizing Carbon- and Water-Footprint Toward Environmentally Sustainable Cloud Computing
di: Jiang, Yankai, et al.
Pubblicazione: (2025)
di: Jiang, Yankai, et al.
Pubblicazione: (2025)
Revealing the Challenges of Attention-FFN Disaggregation for Modern MoE Models and Hardware Systems
di: Liu, Guowei, et al.
Pubblicazione: (2026)
di: Liu, Guowei, et al.
Pubblicazione: (2026)
DCSim: Computing and Networking Integration based Container Scheduling Simulator for Data Centers
di: Hu, Jinlong, et al.
Pubblicazione: (2024)
di: Hu, Jinlong, et al.
Pubblicazione: (2024)
GoodSpeed: Optimizing Fair Goodput with Adaptive Speculative Decoding in Distributed Edge Inference
di: Tran, Phuong, et al.
Pubblicazione: (2025)
di: Tran, Phuong, et al.
Pubblicazione: (2025)
Energy-Efficient Wireless Federated Learning via Doubly Adaptive Quantization
di: Han, Xuefeng, et al.
Pubblicazione: (2024)
di: Han, Xuefeng, et al.
Pubblicazione: (2024)
ML-based Adaptive Prefetching and Data Placement for US HEP Systems
di: Karanam, Venkat Sai Suman Lamba, et al.
Pubblicazione: (2025)
di: Karanam, Venkat Sai Suman Lamba, et al.
Pubblicazione: (2025)
NanoCP: Request-Level Dynamic Context Parallelism for Data-Expert Parallel Decoding
di: Chen, Jiefei, et al.
Pubblicazione: (2026)
di: Chen, Jiefei, et al.
Pubblicazione: (2026)
INSPIRIT: Optimizing Heterogeneous Task Scheduling through Adaptive Priority in Task-based Runtime Systems
di: Wang, Yiqing, et al.
Pubblicazione: (2024)
di: Wang, Yiqing, et al.
Pubblicazione: (2024)
Data-Locality-Aware Task Assignment and Scheduling for Distributed Job Executions
di: Zhao, Hailiang, et al.
Pubblicazione: (2024)
di: Zhao, Hailiang, et al.
Pubblicazione: (2024)
Hamster: A Fast Synchronous Byzantine Fault Tolerance Protocol
di: Fu, Ximing, et al.
Pubblicazione: (2024)
di: Fu, Ximing, et al.
Pubblicazione: (2024)
cuFastTuckerPlus: A Stochastic Parallel Sparse FastTucker Decomposition Using GPU Tensor Cores
di: Li, Zixuan, et al.
Pubblicazione: (2024)
di: Li, Zixuan, et al.
Pubblicazione: (2024)
FaaSTube: Optimizing GPU-oriented Data Transfer for Serverless Computing
di: Wu, Hao, et al.
Pubblicazione: (2024)
di: Wu, Hao, et al.
Pubblicazione: (2024)
Demystifying ARM SME to Optimize General Matrix Multiplications
di: Deng, Chencheng, et al.
Pubblicazione: (2025)
di: Deng, Chencheng, et al.
Pubblicazione: (2025)
FuxiShuffle: An Adaptive and Resilient Shuffle Service for Distributed Data Processing on Alibaba Cloud
di: Lin, Yuhao, et al.
Pubblicazione: (2026)
di: Lin, Yuhao, et al.
Pubblicazione: (2026)
CXL Shared Memory Programming: Barely Distributed and Almost Persistent
di: Xu, Yi, et al.
Pubblicazione: (2024)
di: Xu, Yi, et al.
Pubblicazione: (2024)
FLASH: Federated Learning Across Simultaneous Heterogeneities
di: Chang, Xiangyu, et al.
Pubblicazione: (2024)
di: Chang, Xiangyu, et al.
Pubblicazione: (2024)
SFVInt: Simple, Fast and Generic Variable-Length Integer Decoding using Bit Manipulation Instructions
di: Liao, Gang, et al.
Pubblicazione: (2024)
di: Liao, Gang, et al.
Pubblicazione: (2024)
Next-Gen Computing Systems with Compute Express Link: a Comprehensive Survey
di: Chen, Chen, et al.
Pubblicazione: (2024)
di: Chen, Chen, et al.
Pubblicazione: (2024)
LLM Inference Serving: Survey of Recent Advances and Opportunities
di: Li, Baolin, et al.
Pubblicazione: (2024)
di: Li, Baolin, et al.
Pubblicazione: (2024)
MoEntwine: Unleashing the Potential of Wafer-scale Chips for Large-scale Expert Parallel Inference
di: Tang, Xinru, et al.
Pubblicazione: (2025)
di: Tang, Xinru, et al.
Pubblicazione: (2025)
Modern Computing: Vision and Challenges
di: Gill, Sukhpal Singh, et al.
Pubblicazione: (2024)
di: Gill, Sukhpal Singh, et al.
Pubblicazione: (2024)
PipeBoost: Resilient Pipelined Architecture for Fast Serverless LLM Scaling
di: Liu, Chongpeng, et al.
Pubblicazione: (2025)
di: Liu, Chongpeng, et al.
Pubblicazione: (2025)
GICC: A High-Performance Runtime for GPU-Initiated Communication and Coordination in Modern HPC Systems
di: Shan, Baodi, et al.
Pubblicazione: (2026)
di: Shan, Baodi, et al.
Pubblicazione: (2026)
The Workload-Router-Pool Architecture for LLM Inference Optimization: A Vision Paper from the vLLM Semantic Router Project
di: Chen, Huamin, et al.
Pubblicazione: (2026)
di: Chen, Huamin, et al.
Pubblicazione: (2026)
Humas: A Heterogeneity- and Upgrade-aware Microservice Auto-scaling Framework in Large-scale Data Centers
di: Hua, Qin, et al.
Pubblicazione: (2024)
di: Hua, Qin, et al.
Pubblicazione: (2024)
Self-healing Nodes with Adaptive Data-Sharding
di: Thakur, Ayush, et al.
Pubblicazione: (2024)
di: Thakur, Ayush, et al.
Pubblicazione: (2024)
Ocior: Ultra-Fast Asynchronous Leaderless Consensus with Two-Round Finality, Linear Overhead, and Adaptive Security
di: Chen, Jinyuan
Pubblicazione: (2025)
di: Chen, Jinyuan
Pubblicazione: (2025)
Efficient Fault Tolerance for Pipelined Query Engines via Write-ahead Lineage
di: Wang, Ziheng, et al.
Pubblicazione: (2024)
di: Wang, Ziheng, et al.
Pubblicazione: (2024)
Adaptive Cache Management for Complex Storage Systems Using CNN-LSTM-Based Spatiotemporal Prediction
di: Wang, Xiaoye, et al.
Pubblicazione: (2024)
di: Wang, Xiaoye, et al.
Pubblicazione: (2024)
Adaptive Multidimensional Quadrature on Multi-GPU Systems
di: Tonarelli, Melanie, et al.
Pubblicazione: (2025)
di: Tonarelli, Melanie, et al.
Pubblicazione: (2025)
Disaggregated Prefill and Decoding Inference System for Large Language Model Serving on Multi-Vendor GPUs
di: Chen, Xing, et al.
Pubblicazione: (2025)
di: Chen, Xing, et al.
Pubblicazione: (2025)
Crossword: Adaptive Consensus for Dynamic Data-Heavy Workloads
di: Hu, Guanzhou, et al.
Pubblicazione: (2025)
di: Hu, Guanzhou, et al.
Pubblicazione: (2025)
A Unified CPU-GPU Protocol for GNN Training
di: Lin, Yi-Chien, et al.
Pubblicazione: (2024)
di: Lin, Yi-Chien, et al.
Pubblicazione: (2024)
Triton-distributed: Programming Overlapping Kernels on Distributed AI Systems with the Triton Compiler
di: Zheng, Size, et al.
Pubblicazione: (2025)
di: Zheng, Size, et al.
Pubblicazione: (2025)
Documenti analoghi
-
ThirstyFLOPS: Water Footprint Modeling and Analysis Toward Sustainable HPC Systems
di: Jiang, Yankai, et al.
Pubblicazione: (2025) -
STRATUS: A Multi-agent System for Autonomous Reliability Engineering of Modern Clouds
di: Chen, Yinfang, et al.
Pubblicazione: (2025) -
EcoLife: Carbon-Aware Serverless Function Scheduling for Sustainable Computing
di: Jiang, Yankai, et al.
Pubblicazione: (2024) -
Ghidorah: Fast LLM Inference on Edge with Speculative Decoding and Hetero-Core Parallelism
di: Wei, Jinhui, et al.
Pubblicazione: (2025) -
Communication-Efficient Distributed Learning via Sparse and Adaptive Stochastic Gradient
di: Deng, Xiaoge, et al.
Pubblicazione: (2021)