Основные поисковые фразы

  • generalization bound — оценка ошибки обобщения, то есть работы модели на новых данных.
  • sample complexity — сколько примеров требуется для заданной точности.
  • minimax rate — скорость оценивания в худшем случае внутри выбранного класса задач.
  • regularization — регуляризация, ограничивающая сложность решения.

Примеры поиска в arXiv

Начните со stat.ML. Работы по алгоритмам обучения встречаются также в cs.LG, а необходимые вероятностные результаты — в math.PR.

В «Сложном запросе» первый пример ищет оценки обобщения, второй — работы о числе наблюдений, необходимом для обучения.

(cat:stat.ML AND all:"generalization bound")
((cat:stat.ML OR cat:cs.LG) AND all:"sample complexity")

Как следить за новыми результатами

В боте откройте «Добавить тему» → arXiv → «Раздел arXiv» и отправьте stat.ML. Бот ответит «Добавлено». Если интересует конкретный вопрос, выберите «Ключевую фразу» и отправьте minimax rate или sample complexity.

В «Последних работах» посмотрите найденные статьи. Чтобы собрать материал для обзора, выписывайте используемые авторами названия класса моделей и добавляйте их в дальнейший поиск.

Как читать теорему об обучении

Сначала выпишите величины в оценке: число наблюдений, размерность, требуемую точность и вероятность ошибки. Затем найдите, к каким данным и моделям относится результат. Например, скорость для линейной регрессии с независимыми наблюдениями нельзя напрямую сравнить с результатом о зависимом временном ряде. Полезно составить маленькую таблицу из условий и итоговой оценки каждой статьи.

Английские термины для поиска

generalization bound
оценка ошибки обобщения
sample complexity
необходимый объём обучающей выборки
minimax rate
минимаксная скорость оценивания
Подписки по этой теме

Готовые примеры для бота

Статистическое обучениеarXiv · разделcat:stat.ML
Границы обобщенияarXiv · ключевая фразаall:"generalization bound"
Минимаксные скоростиarXiv · ключевая фразаall:"minimax rate"

Нажмите «Настроить подписку в Telegram», выберите подходящий пример и подтвердите его в боте.

Частые вопросы

Это то же самое, что подбор архитектур нейросетей?

Здесь акцент на свойствах методов и доказательствах. Для практических архитектур и экспериментов посмотрите также раздел машинного обучения.

Источники и дальнейшее чтение

  1. Рубрики статистики arXiv