モデルの最適化

モデルが機能するようになったら、モデルの品質を最適化します。手順は次のとおりです。

便利な機能の追加

既存の特徴によってまだエンコードされていない情報をエンコードする特徴を追加することで、モデルのパフォーマンスを改善できます。相関行列を使用すると、個々の特徴とラベル間の線形相関を見つけることができます。特徴とラベル間の非線形の相関関係を検出するには、特徴(または特徴の組み合わせ)の有無にかかわらずモデルをトレーニングし、モデルの品質の向上をチェックする必要があります。モデルの品質の向上によって、特徴の包含を正当化する必要があります。

ハイパーパラメータを調整する

ハイパーパラメータを機能させるための値が見つけられました。ただし、これらのハイパーパラメータの値は調整が可能です。値はトライアルやエラーによって手動で調整できますが、手動で調整するには時間がかかります。代わりに、Cloud ML ハイパーパラメータ調整などの自動ハイパーパラメータ調整サービスを使用することを検討してください。

モデルの深さと幅を調整する

モデルのデバッグ中は、モデルの深さと幅を増やしただけです。対照的に、モデルの最適化では、目標に応じて深度と幅を調整します。モデルの品質が適切な場合は、深さと幅を狭めて、過学習とトレーニング時間を短縮します。具体的には、連続するレイヤごとに幅を半分にしてみてください。モデルの品質も低下するため、過学習とトレーニング時間のバランスを取る必要があります。

逆に、より高いモデル品質が必要な場合は、深さと幅を増やしてみてください。例については、こちらのニューラル ネットワーク プレイグラウンド演習をご覧ください。深度と幅の増加は、トレーニング時間と過剰適合の増加に伴って実質的に制限されることに注意してください。過学習については、一般化: 過学習の危険性をご覧ください。

深さと幅はハイパーパラメータであるため、ハイパーパラメータ調整を使用して深さと幅を最適化できます。