Kaybı Azaltma: Oyun Alanı Alıştırması

Öğrenme Oranı ve Uyum

Bu, çeşitli Playground alıştırmalarının ilki. Playground, makine öğrenimi ilkelerini öğretmek amacıyla özellikle bu kurs için geliştirilmiş bir programdır. Bu kurstaki her Playground alıştırması, hazır ayarları olan yerleşik bir oyun alanı örneği içerir.

Her Playground alıştırması bir veri kümesi oluşturur. Bu veri kümesinin etiketinde iki olası değer bulunur. Bu iki olası değeri, spam yerine spam değil, sağlıklı ağaçlar ve hasta ağaçlar olarak düşünebilirsiniz. Çoğu alıştırmanın amacı, bir etiket değerini diğerinden başarılı bir şekilde sınıflandıran (ayıran veya ayıran) bir model oluşturmak için çeşitli hiperparametrelerde ince ayar yapmaktır. Çoğu veri kümesinin, her örneğin başarıyla sınıflandırılmasını imkansız hale getirecek kadar yüksek miktarda gürültü içerdiğini unutmayın.

Bu alıştırmanın arayüzünde üç düğme vardır:

Simge Ad Ne İşe Yarar?
Sıfırla düğmesi. Sıfırla Yinelemeler'i 0'a sıfırlar. Modelin önceden öğrendiği tüm ağırlıkları sıfırlar.
Adım düğmesi. Adım Bir yineleme ilerletin. Her iterasyonda model, bazen fark etmeden, bazen önemli ölçüde değişir.
Yeniden oluştur düğmesi. Yeniden üret Yeni bir veri kümesi oluşturur. Yinelemeleri sıfırlamaz.

Bu ilk Playground alıştırmasında, iki görevi gerçekleştirerek öğrenme hızıyla deney yapacaksınız.

1. Görev: Playground'un sağ üst kısmındaki Öğrenme oranı menüsüne dikkat edin. Verilen Öğrenme oranı (3) çok yüksek. "Adım" düğmesini 10 veya 20 kez tıklayarak yüksek öğrenme oranının modelinizi nasıl etkilediğini gözlemleyin. Her erken iterasyondan sonra model görselleştirmenin nasıl önemli ölçüde değiştiğine dikkat edin. Model birleştikten sonra bile biraz istikrarsızlık görebilirsiniz. Ayrıca, x1 ve x2'den model görselleştirmeye uzanan çizgilere de dikkat edin. Bu çizgilerin ağırlıkları, modeldeki bu özelliklerin ağırlıklarını belirtir. Yani, kalın bir çizgi yüksek bir ağırlığı gösterir.

2. Görev: Aşağıdakileri yapın:

  1. Sıfırla düğmesine basın.
  2. Öğrenme hızını düşürün.
  3. Adım düğmesine birkaç kez basın.

Düşük öğrenme hızı, yakınsaklığı nasıl etkiledi? Modelin yakınlaşması için gereken adım sayısını ve aynı zamanda modelin ne kadar sorunsuz ve istikrarlı bir şekilde yakınlaştığını inceleyin. Daha düşük öğrenme hızı değerleriyle denemeler yapın. Sizce yararlı olamayacak kadar düşük bir öğrenme hızı var mı? (Alıştırmanın hemen altında bir tartışma yer alır.)