Тренировочные и тестовые наборы: упражнения на игровой площадке

Обучающие наборы и тестовые наборы

Мы возвращаемся на игровую площадку, чтобы поэкспериментировать с обучающими и тестовыми наборами.

В этом упражнении предусмотрены как тестовый, так и обучающий наборы, взятые из одного и того же набора данных. По умолчанию визуализация показывает только обучающий набор. Если вы также хотите просмотреть набор тестов, установите флажок «Показать тестовые данные» под визуализацией. Обратите внимание на следующее различие в визуализации:

  • Обучающие примеры имеют белый контур.
  • Тестовые примеры имеют черный контур.

Задача 1. Запустите Playground с заданными настройками, выполнив следующие действия:

  1. Нажмите кнопку «Выполнить/Пауза»:
  2. Наблюдайте за изменением значений Test loss и Training loss.
  3. Когда значения «Потеря теста» и «Потеря тренировки» перестанут изменяться или будут меняться только время от времени, снова нажмите кнопку «Запуск/Пауза», чтобы приостановить игровую площадку.
Обратите внимание на разницу между потерями при тестировании и потерями при обучении. Постараемся уменьшить эту дельту в следующих задачах.

Задача 2: Сделайте следующее:

  1. Нажмите кнопку сброса.
  2. Измените скорость обучения .
  3. Нажмите кнопку «Выполнить/Пауза»:
  4. Пусть Playground проработает не менее 150 эпох.

Будет ли разница между потерями на тестах и ​​потерями на обучении ниже или выше с этой новой скоростью обучения? Что произойдет, если вы измените скорость обучения и размер пакета ?

Необязательная задача 3. Ползунок с надписью «Процент обучающих данных» позволяет контролировать соотношение обучающих данных и тестовых данных. Например, если установлено значение 90 %, 90 % данных используется для обучающего набора, а оставшиеся 10 % — для тестового набора.

Сделайте следующее:

  1. Уменьшите «Процент обучающих данных» с 50% до 10%.
  2. Поэкспериментируйте со скоростью обучения и размером пакета, записывая результаты.
Изменяет ли изменение процента обучающих данных оптимальные настройки обучения, которые вы обнаружили в задании 2? Если да, то почему?