L₁ 正則化の調査

この演習には、ノイズが加えられた小規模の 見てみましょう。この種の環境では、過学習が大きな懸念となります。 正則化が役立つかもしれませんが、どのような正則化を行えばよいでしょうか。

この演習は、5 つの関連タスクで構成されています。比較を簡単にするため 各タスクを別々のタブで実行します。 FEATURES と OUTPUT を結ぶ線の太さに注意してください。 各特徴量の相対的な重みを表します

タスク	正則化のタイプ	正則化率（ラムダ）
1	レベル2	0.1
2	レベル2	0.3
3	レベル1	0.1
4	レベル1	0.3
5	レベル1	テスト

質問:

1. L₂ から L₁ 正則化に切り替える方法 テストの損失とトレーニングの損失の差分にどのように影響するか。
2. L₂ から L₁ 正則化に切り替える方法 影響を与えるか
3. L₁ 正則化率（ラムダ）を上げるとどのような影響があるか どうすればよいでしょうか。

（解答は演習のすぐ下に表示されます）。

---

---

プラスアイコンをクリックすると回答を確認できます。

1. L₂ 正則化から L₁ 正則化への大幅な切り替え テストの損失とトレーニングの損失の差分を低減します。
2. L₂ から L₁ 正則化に切り替えると、正則化が減衰する すべての重みを表します。
3. L₁ 正則化率を上げると、一般的に 学習した重み正則化率が高すぎると モデルが収束せず、損失が非常に大きくなります。