TableTune: Measured, Self-Correcting Draft-Length Tables for Dynamic Speculative Decoding

Abhishek Malvankar, Paul Castro, Nick Mitchell, Lionel Villard

На странице источника доступны аннотация, полный текст или сведения о том, где его прочитать. Препринт может ещё не пройти рецензирование; проверьте, появилась ли журнальная версия.