Asymptotic Optimality of $cμ$-Rule for LLM Inference Scheduling under Memory Constraint

Zhenghao Li, Shengbo Wang, Nian Si

На странице источника доступны аннотация, полный текст или сведения о том, где его прочитать. Препринт может ещё не пройти рецензирование; проверьте, появилась ли журнальная версия.