FairBatching: Fairness-Aware Batch Formation for LLM Inference

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Lyu, Hongtao, Liu, Boyue, Wu, Mingyu, Chen, Haibo
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!