平等化:遊樂場練習
透過集合功能整理內容
你可以依據偏好儲存及分類內容。
檢查 L1 正規化
這項運動含有微小、略為雜訊的訓練資料集。以這種環境來說,過度配適就是很重要的。規律化或許有幫助,但哪種形式的正規化做法可能有幫助?
本練習包含五個相關工作。為了簡化五項工作的比較,請在獨立的分頁中執行每項工作。
請注意,連結特徵和輸出內容的線條粗細代表每個地圖項目的相對權重。
工作 | 正規化類型 | 正規化率 (lambda) |
1 | L2 | 0.1 |
2 | L2 | 0.3 |
3 | 近1 | 0.1 |
4 | 近1 | 0.3 |
5 | 近1 | 實驗組 |
問題:
-
從 L2 切換為 L1 正規化後,如何影響測試損失和訓練損失之間的差異?
-
從 L2 切換為 L1 正規化後,對已知權重有何影響?
-
提高 L1 正則化率 (lambda) 對已知權重有何影響?
(答案就在運動下方)。
按一下加號圖示即可查看解答。
-
從 L2 切換為 L1 正規化後,可大幅減少測試損失與訓練損失之間的差異。
-
將所有已知權重從 L2 切換為 L1 正則化 Dampens。
-
一般來說,提高 L1 正則化率一般會損害已知權重,但是如果正規化率過高,模型就無法收斂和損失非常高。
除非另有註明,否則本頁面中的內容是採用創用 CC 姓名標示 4.0 授權,程式碼範例則為阿帕契 2.0 授權。詳情請參閱《Google Developers 網站政策》。Java 是 Oracle 和/或其關聯企業的註冊商標。
上次更新時間:2023-12-02 (世界標準時間)。
[{
"type": "thumb-down",
"id": "missingTheInformationINeed",
"label":"缺少我需要的資訊"
},{
"type": "thumb-down",
"id": "tooComplicatedTooManySteps",
"label":"過於複雜/步驟過多"
},{
"type": "thumb-down",
"id": "outOfDate",
"label":"過時"
},{
"type": "thumb-down",
"id": "translationIssue",
"label":"翻譯問題"
},{
"type": "thumb-down",
"id": "samplesCodeIssue",
"label":"示例/程式碼問題"
},{
"type": "thumb-down",
"id": "otherDown",
"label":"其他"
}]
[{
"type": "thumb-up",
"id": "easyToUnderstand",
"label":"容易理解"
},{
"type": "thumb-up",
"id": "solvedMyProblem",
"label":"確實解決了我的問題"
},{
"type": "thumb-up",
"id": "otherUp",
"label":"其他"
}]