L2 正則化を調べる

この演習には、ノイズの多い小規模なトレーニング データセットが含まれています。 この種の環境では、過学習が大きな懸念となります。幸い 正則化が役立つかもしれません。

この演習は、3 つの関連するタスクで構成されています。比較を簡単にするため 各タスクを別々のタブで実行します。

  • タスク 1: 指定されたとおりに、少なくとも 500 エポックでモデルを実行します。備考 次のとおりです。 <ph type="x-smartling-placeholder">
      </ph>
    • 損失をテストします。
    • テストの損失とトレーニングの損失の差分。
    • 特徴と特徴クロスの学習済みの重み。 （FEATURES から OUTPUT までの各行の相対的な太さ その特徴または特徴クロスに対して学習した重みを表します。 正確な重み値を確認するには、 表示されます）。
  • タスク 2: （このタスクは別のタブで行うことを検討してください。）[ 0 から 0.3 への正則化率。次に、 少なくとも 500 エポックでモデルを作成し、次の質問に対する答えを見つけてください。 <ph type="x-smartling-placeholder">
      </ph>
    • タスク 2 のテスト損失とタスク 2 のテスト損失の違い 1？
    • タスク 2 のテスト損失とトレーニング損失の差分はどのようになっていますか？ タスク 1 と異なっているのでしょうか。
    • 各特徴と特徴クロスの学習した重みはどのように異なるか どうすればよいでしょうか。
    • モデルの複雑さに関する結果はどうなっていますか？
  • タスク 3: 正則化率を試して、 最適値を決定します

（解答は演習のすぐ下に表示されます）。