Cortex: Workflow-Aware Resource Pooling and Scheduling for Agentic Serving
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Pagonas, Nikos, Chung, Yeounoh, Kaffes, Kostis, Krishnamurthy, Arvind |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
VineLM: Trie-Based Fine-Grained Control for Agentic Workflows
par: Pagonas, Nikos, et autres
Publié: (2026)
par: Pagonas, Nikos, et autres
Publié: (2026)
Toward Systems Foundations for Agentic Exploration
par: Xu, Jiakai, et autres
Publié: (2025)
par: Xu, Jiakai, et autres
Publié: (2025)
HexAGenT: Efficient Agentic LLM Serving via Workflow- and Heterogeneity-Aware Scheduling
par: Peng, You, et autres
Publié: (2026)
par: Peng, You, et autres
Publié: (2026)
Shabari: Delayed Decision-Making for Faster and Efficient Serverless Functions
par: Sinha, Prasoon, et autres
Publié: (2024)
par: Sinha, Prasoon, et autres
Publié: (2024)
Aragog: Just-in-Time Model Routing for Scalable Serving of Agentic Workflows
par: Dai, Yinwei, et autres
Publié: (2025)
par: Dai, Yinwei, et autres
Publié: (2025)
Speculative Actions: A Lossless Framework for Faster Agentic Systems
par: Ye, Naimeng, et autres
Publié: (2025)
par: Ye, Naimeng, et autres
Publié: (2025)
Symphony: Optimized DNN Model Serving using Deferred Batch Scheduling
par: Chen, Lequn, et autres
Publié: (2023)
par: Chen, Lequn, et autres
Publié: (2023)
WOW: Workflow-Aware Data Movement and Task Scheduling for Dynamic Scientific Workflows
par: Lehmann, Fabian, et autres
Publié: (2025)
par: Lehmann, Fabian, et autres
Publié: (2025)
Carbon-Aware Mapping and Scheduling for Deadline-Constrained Workflows
par: Schweisgut, Dominik, et autres
Publié: (2026)
par: Schweisgut, Dominik, et autres
Publié: (2026)
SLOs-Serve: Optimized Serving of Multi-SLO LLMs
par: Chen, Siyuan, et autres
Publié: (2025)
par: Chen, Siyuan, et autres
Publié: (2025)
GoodServe: Towards High-Goodput Serving of Agentic LLM Inferences over Heterogeneous Resources
par: Du, Boxiao, et autres
Publié: (2026)
par: Du, Boxiao, et autres
Publié: (2026)
Carbon-Aware Workflow Scheduling with Fixed Mapping and Deadline Constraint
par: Schweisgut, Dominik, et autres
Publié: (2025)
par: Schweisgut, Dominik, et autres
Publié: (2025)
FATE: Future-State-Aware Scheduling for Heterogeneous LLM Workflows
par: Huang, Zirui, et autres
Publié: (2026)
par: Huang, Zirui, et autres
Publié: (2026)
MemServe: Context Caching for Disaggregated LLM Serving with Elastic Memory Pool
par: Hu, Cunchen, et autres
Publié: (2024)
par: Hu, Cunchen, et autres
Publié: (2024)
It Takes Two to Tango: Serverless Workflow Serving via Bilaterally Engaged Resource Adaptation
par: Wu, Jing, et autres
Publié: (2025)
par: Wu, Jing, et autres
Publié: (2025)
FREESH: Fair, Resource- and Energy-Efficient Scheduling for LLM Serving on Heterogeneous GPUs
par: He, Xuan, et autres
Publié: (2025)
par: He, Xuan, et autres
Publié: (2025)
Optimal Fixed Priority Scheduling in Multi-Stage Multi-Resource Distributed Real-Time Systems
par: Kumar, Niraj, et autres
Publié: (2024)
par: Kumar, Niraj, et autres
Publié: (2024)
PolyServe: Efficient Multi-SLO Serving at Scale
par: Zhu, Kan, et autres
Publié: (2025)
par: Zhu, Kan, et autres
Publié: (2025)
SneakPeek: Data-Aware Model Selection and Scheduling for Inference Serving on the Edge
par: Wolfrath, Joel, et autres
Publié: (2025)
par: Wolfrath, Joel, et autres
Publié: (2025)
A Performance Analysis of Task Scheduling for UQ Workflows on HPC Systems
par: Loi, Chung Ming, et autres
Publié: (2025)
par: Loi, Chung Ming, et autres
Publié: (2025)
Scepsy: Serving Agentic Workflows Using Aggregate LLM Pipelines
par: Wagenländer, Marcel, et autres
Publié: (2026)
par: Wagenländer, Marcel, et autres
Publié: (2026)
CascadeInfer: Length-Aware Scheduling of LLM Serving with Low Latency and Load Balancing
par: Yuan, Yitao, et autres
Publié: (2025)
par: Yuan, Yitao, et autres
Publié: (2025)
Dynamic Service Scheduling and Resource Management in Energy-Harvesting Multi-access Edge Computing
par: Chen, Shuyi, et autres
Publié: (2025)
par: Chen, Shuyi, et autres
Publié: (2025)
GENSERVE: Efficient Co-Serving of Heterogeneous Diffusion Model Workloads
par: Ye, Fanjiang, et autres
Publié: (2026)
par: Ye, Fanjiang, et autres
Publié: (2026)
Efficient Probabilistic Workflow Scheduling for IaaS Clouds
par: Russo, Gabriele Russo, et autres
Publié: (2024)
par: Russo, Gabriele Russo, et autres
Publié: (2024)
EdgeServing: Deadline-Aware Multi-DNN Serving at the Edge
par: Cao, Jiahe, et autres
Publié: (2026)
par: Cao, Jiahe, et autres
Publié: (2026)
Past-Future Scheduler for LLM Serving under SLA Guarantees
par: Gong, Ruihao, et autres
Publié: (2025)
par: Gong, Ruihao, et autres
Publié: (2025)
PROSERVE: Unified Multi-Priority Request Scheduling for LLM Serving
par: Huang, Weizhe, et autres
Publié: (2025)
par: Huang, Weizhe, et autres
Publié: (2025)
Optimizing FaaS Platforms for MCP-enabled Agentic Workflows
par: Kulkarni, Varad, et autres
Publié: (2026)
par: Kulkarni, Varad, et autres
Publié: (2026)
EconoServe: Maximizing Multi-Resource Utilization with SLO Guarantees in LLM Serving
par: Shen, Haiying, et autres
Publié: (2024)
par: Shen, Haiying, et autres
Publié: (2024)
iDDS: Intelligent Distributed Dispatch and Scheduling for Workflow Orchestration
par: Guan, Wen, et autres
Publié: (2025)
par: Guan, Wen, et autres
Publié: (2025)
Memory-aware Adaptive Scheduling of Scientific Workflows on Heterogeneous Architectures
par: Kulagina, Svetlana, et autres
Publié: (2025)
par: Kulagina, Svetlana, et autres
Publié: (2025)
Minimizing Energy in Reliability and Deadline-Ensured Workflow Scheduling in Cloud
par: Sarkar, Suvarthi, et autres
Publié: (2025)
par: Sarkar, Suvarthi, et autres
Publié: (2025)
sAirflow: Adopting Serverless in a Legacy Workflow Scheduler
par: Mikina, Filip, et autres
Publié: (2024)
par: Mikina, Filip, et autres
Publié: (2024)
AgentServe: Algorithm-System Co-Design for Efficient Agentic AI Serving on a Consumer-Grade GPU
par: Zhang, Yuning, et autres
Publié: (2026)
par: Zhang, Yuning, et autres
Publié: (2026)
NanoFlow: Towards Optimal Large Language Model Serving Throughput
par: Zhu, Kan, et autres
Publié: (2024)
par: Zhu, Kan, et autres
Publié: (2024)
PPipe: Efficient Video Analytics Serving on Heterogeneous GPU Clusters via Pool-Based Pipeline Parallelism
par: Kong, Z. Jonny, et autres
Publié: (2025)
par: Kong, Z. Jonny, et autres
Publié: (2025)
A Predictive and Synergistic Two-Layer Scheduling Framework for LLM Serving
par: Zhang, Yue, et autres
Publié: (2025)
par: Zhang, Yue, et autres
Publié: (2025)
Slice-Level Scheduling for High Throughput and Load Balanced LLM Serving
par: Cheng, Ke, et autres
Publié: (2024)
par: Cheng, Ke, et autres
Publié: (2024)
ROSE: Rollout On Serving GPUs via Cooperative Elasticity for Agentic RL
par: Gao, Wei, et autres
Publié: (2026)
par: Gao, Wei, et autres
Publié: (2026)
Documents similaires
-
VineLM: Trie-Based Fine-Grained Control for Agentic Workflows
par: Pagonas, Nikos, et autres
Publié: (2026) -
Toward Systems Foundations for Agentic Exploration
par: Xu, Jiakai, et autres
Publié: (2025) -
HexAGenT: Efficient Agentic LLM Serving via Workflow- and Heterogeneity-Aware Scheduling
par: Peng, You, et autres
Publié: (2026) -
Shabari: Delayed Decision-Making for Faster and Efficient Serverless Functions
par: Sinha, Prasoon, et autres
Publié: (2024) -
Aragog: Just-in-Time Model Routing for Scalable Serving of Agentic Workflows
par: Dai, Yinwei, et autres
Publié: (2025)