Aşağıdaki seçenekleri inceleyin.
.
Güçlü bir şekilde ilişkili iki özelliğe sahip doğrusal bir model düşünün: yani
bu iki özellik birbirinin neredeyse aynısı ancak biri
özelliği az miktarda rastgele gürültü içerir. Bu araçları
model, L2 normalleştirmesi yaparsa ağırlıklara ne olur?
ne kadar önemli?
Her iki özellik de kabaca eşit, orta düzeyde ağırlıklara sahip olacaktır.
L2 normalleştirmesi, özellikleri
yaklaşık yarı yarıya eşdeğer ağırlıklarda,
iki özellikten yalnızca biri olsaydı
var.
Bir özelliğin ağırlığı büyük olur; diğerinde de
neredeyse 0,0 ağırlıkta olması gerekir.
L2 normalleştirmesi, büyük ağırlıklara daha fazla ceza uygular
yardımcı olur. Yani bir ağırlık düşmeye başlasa da
L2 normalleştirmesi diğerinden daha hızlı
genelde, büyük ağırlığın mevcut olduğundan daha hızlı
yardımcı olur.
Bir özelliğin ağırlığı büyük olur; diğerinde de
tam olarak 0,0 ağırlığında olacaktır.
L2 normalleştirmesi nadiren güçler
tam olarak 0,0'dır. Buna karşılık L1 normalleştirmesi
(daha sonra açıklanacaktır) ağırlıkları tam olarak 0,0'a zorlar.