Основные поисковые фразы
- generalization bound — оценка ошибки обобщения, то есть работы модели на новых данных.
- sample complexity — сколько примеров требуется для заданной точности.
- minimax rate — скорость оценивания в худшем случае внутри выбранного класса задач.
- regularization — регуляризация, ограничивающая сложность решения.
Примеры поиска в arXiv
Начните со stat.ML. Работы по алгоритмам обучения встречаются также в cs.LG, а необходимые вероятностные результаты — в math.PR.
В «Сложном запросе» первый пример ищет оценки обобщения, второй — работы о числе наблюдений, необходимом для обучения.
(cat:stat.ML AND all:"generalization bound")
((cat:stat.ML OR cat:cs.LG) AND all:"sample complexity")Как следить за новыми результатами
В боте откройте «Добавить тему» → arXiv → «Раздел arXiv» и отправьте stat.ML. Бот ответит «Добавлено». Если интересует конкретный вопрос, выберите «Ключевую фразу» и отправьте minimax rate или sample complexity.
В «Последних работах» посмотрите найденные статьи. Чтобы собрать материал для обзора, выписывайте используемые авторами названия класса моделей и добавляйте их в дальнейший поиск.
Как читать теорему об обучении
Сначала выпишите величины в оценке: число наблюдений, размерность, требуемую точность и вероятность ошибки. Затем найдите, к каким данным и моделям относится результат. Например, скорость для линейной регрессии с независимыми наблюдениями нельзя напрямую сравнить с результатом о зависимом временном ряде. Полезно составить маленькую таблицу из условий и итоговой оценки каждой статьи.
Английские термины для поиска
- generalization bound
- оценка ошибки обобщения
- sample complexity
- необходимый объём обучающей выборки
- minimax rate
- минимаксная скорость оценивания
Готовые примеры для бота
cat:stat.MLall:"generalization bound"all:"minimax rate"Нажмите «Настроить подписку в Telegram», выберите подходящий пример и подтвердите его в боте.
Частые вопросы
Это то же самое, что подбор архитектур нейросетей?
Здесь акцент на свойствах методов и доказательствах. Для практических архитектур и экспериментов посмотрите также раздел машинного обучения.