HybridSpec: Throughput-Aware Speculative Decoding for Hybrid GDN-MoE Models

Haiyu Wang, Sai Qian Zhang, Zechun Liu, Steven Li

На странице источника доступны аннотация, полный текст или сведения о том, где его прочитать. Препринт может ещё не пройти рецензирование; проверьте, появилась ли журнальная версия.