Как только ваша модель заработает, пришло время оптимизировать качество модели. Следуйте инструкциям ниже.
Добавьте полезные функции
Вы можете улучшить производительность модели, добавив функции, которые кодируют информацию, еще не закодированную вашими существующими функциями. Вы можете найти линейные корреляции между отдельными функциями и метками, используя матрицы корреляции. Чтобы обнаружить нелинейные корреляции между функциями и метками, вы должны обучить модель с функцией и без нее или комбинацией функций, а также проверить повышение качества модели. Вы должны обосновать включение функции повышением качества модели.
Настройка гиперпараметров
Вы нашли значения гиперпараметров, благодаря которым ваша модель работает. Однако эти значения гиперпараметров все еще можно настроить. Вы можете настроить значения вручную методом проб и ошибок, но ручная настройка требует много времени. Вместо этого рассмотрите возможность использования службы автоматической настройки гиперпараметров, например Cloud ML Hyperparameter Tuning .
Настройка глубины и ширины модели
При отладке модели вы только увеличивали глубину и ширину модели. Напротив, во время оптимизации модели вы либо увеличиваете, либо уменьшаете глубину и ширину в зависимости от ваших целей. Если качество вашей модели адекватное, попробуйте сократить время переобучения и обучения, уменьшив глубину и ширину. В частности, попробуйте уменьшить вдвое ширину каждого последующего слоя. Поскольку качество вашей модели также снизится, вам необходимо сбалансировать качество с переоснащением и временем обучения.
И наоборот, если вам нужно более высокое качество модели, попробуйте увеличить глубину и ширину. В качестве примера см. это упражнение « Площадка нейронной сети ». Помните, что увеличение глубины и ширины практически ограничено сопутствующим увеличением времени тренировки и переобучением. Чтобы понять переоснащение, см. Generalization: Peril of Overfitting .
Поскольку глубина и ширина являются гиперпараметрами, вы можете использовать настройку гиперпараметров для оптимизации глубины и ширины.