Birçok sorun, çıktı olarak bir olasılık tahmini gerektirir. Lojistik regresyon, olasılıkların hesaplanmasında son derece etkili bir mekanizmadır. Uygulamalı olarak, döndürülen olasılığı aşağıdaki iki yöntemden birini kullanarak kullanabilirsiniz:
- "Olduğu gibi"
- İkili kategoriye dönüştürüldü.
"Olasılık" değerini nasıl kullanabileceğimizi inceleyelim. Gece yarısında köpeklerin havlama olasılığını tahmin etmek için lojistik regresyon modeli oluşturduğumuzu varsayalım. Bu olasılığı,
\[p(bark | night)\]
Lojistik regresyon modeli \(p(bark | night) = 0.05\)tahmin ediyorsa köpeğin sahipleri bir yıl boyunca yaklaşık 18 kez uyanık kalmalıdır:
\[\begin{align} startled &= p(bark | night) \cdot nights \\ &= 0.05 \cdot 365 \\ &~= 18 \end{align} \]
Çoğu durumda, lojistik regresyon çıktısını, çözümlemeye ikili bir sınıflandırma sorunuyla eşlersiniz.Burada amaç, mümkün olan iki etiketten birini (ör. "spam" veya "spam değil") Daha sonraki bir Modül bu konuya odaklanır.
Lojistik regresyon modelinin, her zaman 0 ile 1 aralığında olan çıkışları nasıl sağladığını merak ediyor olabilirsiniz. Bu durumda, sigmoid işlevi aşağıda tanımlandığı gibi aynı özelliklere sahip çıkışlar üretir:
Sigmoid işlevi aşağıdaki grafiği sunar:
Şekil 1: Sigmoid işlevi.
Lojistik regresyonla eğitilen bir modelin doğrusal katmanının \(z\) sonucunu temsil etmesi \(sigmoid(z)\) , 0 ile 1 arasında bir değer (olasılık) sağlar. Matematiksel terimler:
Bu örnekte:
- \(y'\) belirli bir örnek için lojistik regresyon modelinin sonucudur.
- \(z = b + w_1x_1 + w_2x_2 + \ldots + w_Nx_N\)
- \(w\) Değerler, modelin öğrendiği ağırlıklar olup \(b\) ön yargılı olur.
- \(x\) Değerler, belirli bir örnek için özellik değerleridir.
\(z\) Sigortanın tersi, \(z\) \(1\) etiket olasılığını (ör. "Köpek havlaması"etiketi, \(0\) etiketin (ör. "köpek havlaması"):
Burada, makine öğrenimi etiketleri olan sigmoid işlevi verilmiştir:
2. Şekil: Lojistik regresyon çıktısı.
Örnek bir lojistik regresyon çıkarım hesaplamasını görmek için artı simgesini tıklayın.
Aşağıdaki sapmayı ve ağırlıkları öğrenen üç özelliğe sahip bir lojistik regresyon modelimiz olduğunu varsayalım:
$$\begin{align} b &= 1 \\ w_1 &= 2 \\ w_2 &= -1 \\ w_3 &= 5 \end{align} $$Belirli bir örnek için aşağıdaki özellik değerlerini de varsayalım:
$$\begin{align} x_1 &= 0 \\ x_2 &= 10 \\ x_3 &= 2 \end{align} $$Bu nedenle, günlük ihtimali:
şöyle olacak:
$$(1) + (2)(0) + (-1)(10) + (5)(2) = 1$$Sonuç olarak, bu örnekteki lojistik regresyon tahmini 0,731 olur:
Şekil 3: %73,1 olasılık.