稀疏性正则化:Playground 练习
使用集合让一切井井有条
根据您的偏好保存内容并对其进行分类。
L1 正则化练习
本练习包含一个有噪声的小型训练数据集。在这种情况下,过拟合问题比较令人担忧。正则化可能会有所帮助,但以下哪种形式的正则化呢?
本练习包含五个相关的任务。为了简化这 5 个任务之间的比较,请在单独的标签页中运行每个任务。
请注意,连接 FEATURES 和 OUTPUT 的线的厚度表示每个特征的相对权重。
任务 | 正则化类型 | 正则化率 (lambda) |
1 | L2 | 0.1 |
2 | 等级2 | 0.3 |
3 | L1 | 0.1 |
4 | L1 | 0.3 |
5 | L1 | 实验 |
问题数量:
-
从 L2 正则化转换到 L1 正则化对测试损失与训练损失之间的增量有何影响?
-
从 L2 正则化转换到 L1 正则化对已知权重有何影响?
-
提高 L1 正则化率 (lambda) 对已知权重有何影响?
(答案会显示在练习下方。)
点击加号图标即可查看答案。
-
从 L2 正则化转换到 L1 正则化可显著减小测试损失与训练损失之间的增量。
-
从 L2 正则化切换到 L1 正则化会减少所有已知权重。
-
提高 L1 正则化率通常会减小已知权重;但是,如果正则化率过高,模型将无法收敛,损失也会很高。
如未另行说明,那么本页面中的内容已根据知识共享署名 4.0 许可获得了许可,并且代码示例已根据 Apache 2.0 许可获得了许可。有关详情,请参阅 Google 开发者网站政策。Java 是 Oracle 和/或其关联公司的注册商标。
最后更新时间 (UTC):2023-12-02。
[{
"type": "thumb-down",
"id": "missingTheInformationINeed",
"label":"没有我需要的信息"
},{
"type": "thumb-down",
"id": "tooComplicatedTooManySteps",
"label":"太复杂/步骤太多"
},{
"type": "thumb-down",
"id": "outOfDate",
"label":"内容需要更新"
},{
"type": "thumb-down",
"id": "translationIssue",
"label":"翻译问题"
},{
"type": "thumb-down",
"id": "samplesCodeIssue",
"label":"示例/代码问题"
},{
"type": "thumb-down",
"id": "otherDown",
"label":"其他"
}]
[{
"type": "thumb-up",
"id": "easyToUnderstand",
"label":"易于理解"
},{
"type": "thumb-up",
"id": "solvedMyProblem",
"label":"解决了我的问题"
},{
"type": "thumb-up",
"id": "otherUp",
"label":"其他"
}]