AIConfigurator: Lightning-Fast Configuration Optimization for Multi-Framework LLM Serving
Fuente:
arXiv
Salvato in:
| Autori principali: | Xu, Tianhao, Liu, Yiming, Lu, Xianglong, Zhao, Yijia, Zhou, Xuting, Feng, Aichen, Chen, Yiyi, Shen, Yi, Zhou, Qin, Chen, Xumeng, Sherstyuk, Ilya, Li, Haorui, Thakkar, Rishi, Hamm, Ben, Li, Yuanzhe, Huang, Xue, Wu, Wenpeng, Shanbhag, Anish, Kim, Harry, Chen, Chuan, Lai, Junjie |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Lightweight Auxiliary Sports Training Quality Evaluation Based on Edge‐Cloud Collaboration
di: Aichen Li
Pubblicazione: (2024)
di: Aichen Li
Pubblicazione: (2024)
FlashSloth: Lightning Multimodal Large Language Models via Embedded Visual Compression
di: Tong, Bo, et al.
Pubblicazione: (2024)
di: Tong, Bo, et al.
Pubblicazione: (2024)
FeatBench: Towards More Realistic Evaluation of Feature-level Code Generation
di: Chen, Haorui, et al.
Pubblicazione: (2025)
di: Chen, Haorui, et al.
Pubblicazione: (2025)
PRISM: Fast Online LLM Serving via Scheduling-Memory Co-design
di: Qu, Xingyu, et al.
Pubblicazione: (2026)
di: Qu, Xingyu, et al.
Pubblicazione: (2026)
Enhancing RNA 3D Structure Prediction in CASP16 : Integrating Physics‐Based Modeling With Machine Learning for Improved Predictions
di: Sicheng Zhang, et al.
Pubblicazione: (2025)
di: Sicheng Zhang, et al.
Pubblicazione: (2025)
Quantum control for the Zeno effect with noise
di: Chen, Haorui, et al.
Pubblicazione: (2024)
di: Chen, Haorui, et al.
Pubblicazione: (2024)
Implicit Multi-Spectral Transformer: An Lightweight and Effective Visible to Infrared Image Translation Model
di: Chen, Yijia, et al.
Pubblicazione: (2024)
di: Chen, Yijia, et al.
Pubblicazione: (2024)
Yi-Lightning Technical Report
di: Wake, Alan, et al.
Pubblicazione: (2024)
di: Wake, Alan, et al.
Pubblicazione: (2024)
Configuration Validation with Large Language Models
di: Lian, Xinyu, et al.
Pubblicazione: (2023)
di: Lian, Xinyu, et al.
Pubblicazione: (2023)
Nanomaterials‐Induced Redox Imbalance: Challenged and Opportunities for Nanomaterials in Cancer Therapy
di: Xumeng Wu, et al.
Pubblicazione: (2024)
di: Xumeng Wu, et al.
Pubblicazione: (2024)
Seeing Symbols, Missing Cultures: Probing Vision-Language Models' Reasoning on Fire Imagery and Cultural Meaning
di: Yu, Haorui, et al.
Pubblicazione: (2025)
di: Yu, Haorui, et al.
Pubblicazione: (2025)
Synergistic Optimization of Carbon Emissions and Economic Performance in Stainless Steelmaking Using CO 2 as an Auxiliary Oxidant
di: Yun Zhou, et al.
Pubblicazione: (2025)
di: Yun Zhou, et al.
Pubblicazione: (2025)
Be Water: An Evolutionary Proof for Trend-Following
di: Chen, Yijia
Pubblicazione: (2026)
di: Chen, Yijia
Pubblicazione: (2026)
The Red Queen's Trap: Limits of Deep Evolution in High-Frequency Trading
di: Chen, Yijia
Pubblicazione: (2025)
di: Chen, Yijia
Pubblicazione: (2025)
TA3: Testing Against Adversarial Attacks on Machine Learning Models
di: Jin, Yuanzhe, et al.
Pubblicazione: (2024)
di: Jin, Yuanzhe, et al.
Pubblicazione: (2024)
Cholinergic interneurons in the shell region of the nucleus accumbens regulate binge alcohol consumption: A chemogenetic and genetic lesion study
di: Rishi Sharma, et al.
Pubblicazione: (2024)
di: Rishi Sharma, et al.
Pubblicazione: (2024)
NetDPSyn: Synthesizing Network Traces under Differential Privacy
di: Sun, Danyu, et al.
Pubblicazione: (2024)
di: Sun, Danyu, et al.
Pubblicazione: (2024)
Injecting Adrenaline into LLM Serving: Boosting Resource Utilization and Throughput via Attention Disaggregation
di: Liang, Yunkai, et al.
Pubblicazione: (2025)
di: Liang, Yunkai, et al.
Pubblicazione: (2025)
The Association between Depression, Anxiety, and Thyroid Disease: A UK Biobank Prospective Cohort Study
di: Tianqing Fan, et al.
Pubblicazione: (2024)
di: Tianqing Fan, et al.
Pubblicazione: (2024)
Research progress on operation control and optimal scheduling of irrigation canal systems
di: Ke Zhou, et al.
Pubblicazione: (2024)
di: Ke Zhou, et al.
Pubblicazione: (2024)
Surge Impact Characteristics of Low‐Voltage Overhead Lines Caused by Natural Lightning
di: Xu Yan, et al.
Pubblicazione: (2025)
di: Xu Yan, et al.
Pubblicazione: (2025)
GraphFlow: A Graph-Based Workflow Management for Efficient LLM-Agent Serving
di: Li, Ao, et al.
Pubblicazione: (2026)
di: Li, Ao, et al.
Pubblicazione: (2026)
Towards Generalizable Tumor Synthesis
di: Chen, Qi, et al.
Pubblicazione: (2024)
di: Chen, Qi, et al.
Pubblicazione: (2024)
Progression and Metastasis of Lung Cancer: Clinical Features, Molecular Mechanisms, and Clinical Managements
di: Yunkui Zhang, et al.
Pubblicazione: (2025)
di: Yunkui Zhang, et al.
Pubblicazione: (2025)
A Distributed Iterative Tikhonov Method for Networked Monotone Aggregative Hierarchical Stochastic Games
di: Lei, Jinlong, et al.
Pubblicazione: (2023)
di: Lei, Jinlong, et al.
Pubblicazione: (2023)
Sandwich: Joint Configuration Search and Hot-Switching for Efficient CPU LLM Serving
di: Zhao, Juntao, et al.
Pubblicazione: (2025)
di: Zhao, Juntao, et al.
Pubblicazione: (2025)
RelServe: Fast LLM Inference Serving on Relational Data
di: Zhang, Xin, et al.
Pubblicazione: (2025)
di: Zhang, Xin, et al.
Pubblicazione: (2025)
PADS: Plug-and-Play 3D Human Pose Analysis via Diffusion Generative Modeling
di: Ji, Haorui, et al.
Pubblicazione: (2024)
di: Ji, Haorui, et al.
Pubblicazione: (2024)
RoomPilot: Controllable Indoor Scene Synthesis via Multimodal Semantic Parsing
di: Chen, Wentang, et al.
Pubblicazione: (2025)
di: Chen, Wentang, et al.
Pubblicazione: (2025)
MMO: Meta Multi-Objectivization for Software Configuration Tuning
di: Chen, Pengzhou, et al.
Pubblicazione: (2021)
di: Chen, Pengzhou, et al.
Pubblicazione: (2021)
Study on Recovery Strategy of Hearing Loss & SGN Regeneration Under Physical Regulation
di: Zhe Li, et al.
Pubblicazione: (2024)
di: Zhe Li, et al.
Pubblicazione: (2024)
In-Context Former: Lightning-fast Compressing Context for Large Language Model
di: Wang, Xiangfeng, et al.
Pubblicazione: (2024)
di: Wang, Xiangfeng, et al.
Pubblicazione: (2024)
PuLID: Pure and Lightning ID Customization via Contrastive Alignment
di: Guo, Zinan, et al.
Pubblicazione: (2024)
di: Guo, Zinan, et al.
Pubblicazione: (2024)
Patterns of Persistence and Diffusibility across the World's Languages
di: Chen, Yiyi, et al.
Pubblicazione: (2024)
di: Chen, Yiyi, et al.
Pubblicazione: (2024)
Tunable atom-cavity interactions with configurable atomic chains
di: Li, Xinwei, et al.
Pubblicazione: (2023)
di: Li, Xinwei, et al.
Pubblicazione: (2023)
Mechanotransduction in Shaping Immunity: Pathways, Crosstalk, and Pathophysiological Relevance
di: Ruijiao Yan, et al.
Pubblicazione: (2025)
di: Ruijiao Yan, et al.
Pubblicazione: (2025)
Adapting Multi-objectivized Software Configuration Tuning
di: Chen, Tao, et al.
Pubblicazione: (2024)
di: Chen, Tao, et al.
Pubblicazione: (2024)
DynaServe: Unified and Elastic Execution for Dynamic Disaggregated LLM Serving
di: Ruan, Chaoyi, et al.
Pubblicazione: (2025)
di: Ruan, Chaoyi, et al.
Pubblicazione: (2025)
Physicochemical Mechanism of Flame‐Retardant Enhancement for Elastomeric Polyurea: A Mini‐Review
di: Yuanzhe Li, et al.
Pubblicazione: (2024)
di: Yuanzhe Li, et al.
Pubblicazione: (2024)
Anatomical Sublobar Resection for Multi‐Intersegmental Pulmonary Nodules
di: Xianglong Pan, et al.
Pubblicazione: (2026)
di: Xianglong Pan, et al.
Pubblicazione: (2026)
Documenti analoghi
-
Lightweight Auxiliary Sports Training Quality Evaluation Based on Edge‐Cloud Collaboration
di: Aichen Li
Pubblicazione: (2024) -
FlashSloth: Lightning Multimodal Large Language Models via Embedded Visual Compression
di: Tong, Bo, et al.
Pubblicazione: (2024) -
FeatBench: Towards More Realistic Evaluation of Feature-level Code Generation
di: Chen, Haorui, et al.
Pubblicazione: (2025) -
PRISM: Fast Online LLM Serving via Scheduling-Memory Co-design
di: Qu, Xingyu, et al.
Pubblicazione: (2026) -
Enhancing RNA 3D Structure Prediction in CASP16 : Integrating Physics‐Based Modeling With Machine Learning for Improved Predictions
di: Sicheng Zhang, et al.
Pubblicazione: (2025)