檢查 L1 正規化

這項練習包含少量雜訊、訓練內容 資料集在這樣的背景下,過度配適是一個真正的問題。 正規化應該能從哪種正規化方面取得幫助?

這項練習包含五項相關任務。簡化比較流程 跨越五項任務,請在個別分頁中執行每項工作。 您會發現連接特徵與輸出內容的線條粗細 呈現各項特徵的相對權重。

工作 正規化類型 正規化率 (lambda)
1 2 級 0.1 版
2 2 級 0.3 版
3 1 級 0.1 版
4 1 級 0.3 版
5 1 級 實驗組

問題:

  1. 如何從 L2 正規化切換為 L1 以及測試損失與訓練損失之間的差距?
  2. 如何從 L2 正規化切換為 L1 影響學習的權重?
  3. 提高 L1 正則化率 (lambda) 如何影響 學到的權重?

(答案會顯示在運動正下方)。