Layer-wise CPU-GPU Scheduling for LLM Inference on Memory-Limited Consumer GPUs

Naoto Sugiura, Yuta Tokusashi, Hiroki Matsutani

На странице источника доступны аннотация, полный текст или сведения о том, где его прочитать. Препринт может ещё не пройти рецензирование; проверьте, появилась ли журнальная версия.