GPU-Resident Speculative Decoding for In-Browser LLM Inference with WebGPU

Wei Song, Yuxin Cao, Ziqi Ding, Xiao Cheng

На странице источника доступны аннотация, полный текст или сведения о том, где его прочитать. Препринт может ещё не пройти рецензирование; проверьте, появилась ли журнальная версия.