Doğrusal olmayan ilişkileri öğrenen bir sinir ağı oluşturmak için, aşağıdaki tanıdık model yapısıyla başlayın: $y' = b + w_1x_1 + w_2x_2 + w_3x_3$ biçiminde doğrusal bir model .
Bu denklemi aşağıdaki gibi görselleştirebiliriz; burada $x_1$, $x_2$ ve $x_3$ üç giriş düğümümüz (mavi renkte) ve $y'$ ise çıkış düğümümüzdür (yeşil renkte).
Alıştırma 1
Yukarıdaki modelde, ağırlık ve sapma değerleri rastgele başlatılmıştır. Arayüzü tanımak ve doğrusal modeli keşfetmek için aşağıdaki görevleri gerçekleştirin. Şimdilik Etkinleştirme Fonksiyonu açılır menüsünü görmezden gelebilirsiniz; bu konuyu modülün ilerleyen bölümlerinde ele alacağız.
Ağın üzerindeki Oynat (▶️) düğmesine tıklayarak $x_1 = 1.00$, $x_2 = 2.00$ ve $x_3 = 3.00$ giriş değerleri için çıkış düğümünün değerini hesaplayın.
Giriş katmanındaki ikinci düğüme tıklayın ve değeri 2,00'den 2,50'ye yükseltin. Çıkış düğümünün değerinin değiştiğini fark edin. Çıkış düğümlerini (yeşil renkte) seçin ve çıkış değerinin nasıl hesaplandığını görmek için Hesaplamalar panelini inceleyin.
Çıkış düğmesini (yeşil renkte) tıklayarak ağırlık ($w_1$, $w_2$, $w_3$) ve sapma ($b$) parametre değerlerini görün. $w_3$ için ağırlık değerini azaltın (çıktı düğmesinin değeri ve aşağıdaki hesaplamaların değiştiğini tekrar unutmayın). Ardından, sapma değerini artırın. Bu değişikliklerin model çıktısını nasıl etkilediğini inceleyin.
Ağ yapısına katmanlar eklemek
Alıştırma 1'de ağın ağırlık ve sapma değerlerini ayarladığınızda, girdi ve çıktı arasındaki genel matematiksel ilişkinin değişmediğini unutmayın. Modelimiz hala doğrusal bir modeldir.
Peki ya giriş katmanı ile çıkış katmanı arasına ağa başka bir katman daha eklersek? Sinir ağları terminolojisinde, giriş katmanı ile çıkış katmanı arasına eklenen katmanlara gizli katmanlar , bu katmanlardaki düğümlere ise nöronlar denir.
Gizli katmandaki her nöronun değeri, doğrusal bir modelin çıktısıyla aynı şekilde hesaplanır: her bir girdisinin (önceki ağ katmanındaki nöronlar) ve benzersiz bir ağırlık parametresinin çarpımının toplamı alınır, buna sapma (bias) eklenir. Benzer şekilde, bir sonraki katmandaki (burada, çıktı katmanı) nöronlar, gizli katmanın nöron değerleri girdi olarak kullanılarak hesaplanır.
Bu yeni gizli katman, modelimizin giriş verilerini başka bir parametre kümesi kullanarak yeniden birleştirmesine olanak tanır. Bu, modelimizin doğrusal olmayan ilişkileri öğrenmesine yardımcı olabilir mi?
Alıştırma 2
Modele dört nöron içeren gizli bir katman ekledik.
Ağın üzerindeki Oynat (▶️) düğmesine tıklayarak, $x_1 = 1.00$, $x_2 = 2.00$ ve $x_3 = 3.00$ giriş değerleri için dört gizli katman düğümünün ve çıkış düğümünün değerini hesaplayın.
Ardından modeli inceleyin ve aşağıdaki soruları yanıtlamak için kullanın.
Model parametrelerini değiştirmeyi deneyin ve gizli katman düğüm değerleri ile çıktı değeri üzerindeki etkisini gözlemleyin (bu değerlerin nasıl hesaplandığını görmek için aşağıdaki Hesaplamalar panelini inceleyebilirsiniz).
Bu model doğrusal olmayan ilişkileri öğrenebilir mi?
Gizli katmandaki her bir düğüme tıklayıp aşağıdaki hesaplamaları incelerseniz, hepsinin doğrusal (çarpma ve toplama işlemlerinden oluşan) olduğunu göreceksiniz.
Ardından çıktı düğmesine tıklayıp aşağıdaki hesaplamayı incelerseniz, bu hesaplamanın da doğrusal olduğunu göreceksiniz. Doğrusal hesaplamaların çıktısı üzerinde yapılan doğrusal hesaplamalar da doğrusaldır; bu da bu modelin doğrusal olmayan ilişkileri öğrenemeyeceği anlamına gelir.