Lojistik Regresyon

Lojistik regresyon, tam olarak 0 veya 1'i tahmin etmek yerine bir olasılık yaratır. 0 ile 1 arasındaki değerler hariçtir. Örneğin, spam algılama için lojistik regresyon modeli kullanabilirsiniz. Model, belirli bir e-posta iletisinde 0,932 değerini çıkarıyorsa e-posta iletisinin spam olma olasılığının% 93,2 olduğunu belirtir. Daha ayrıntılı şekilde açıklamak gerekirse, sonsuz eğitim örnekleri sınırında, modelin 0,932 olduğunu tahmin ettiği örnek kümesi, zamanın% 93,2'sinde spam olarak kabul edilir, geri kalan% 6,8'lik kısım ise

Lojistik Regresyon

  • Bükülmüş madeni paralar için Heads olasılığını tahmin etme sorununu hayal edin
  • Bükme açısı, bozuk para kütlesi vb. özellikleri kullanabilirsiniz.
  • Kullanabileceğiniz en basit model nedir?
  • Ne sorun olabilir ki?
2 madeni para bükülü
  • Birçok sorun, çıktı olarak bir olasılık tahmini gerektirir
  • Lojistik Regresyonu girin
  • Birçok sorun, çıktı olarak bir olasılık tahmini gerektirir
  • Lojistik Regresyonu girin
  • Olasılık tahminleri kalibre edildiğinden faydalıdır
    • Örneğin, p(ev satılacak) * fiyat = beklenen sonuç
  • Birçok sorun, çıktı olarak bir olasılık tahmini gerektirir
  • Lojistik Regresyonu girin
  • Olasılık tahminleri kalibre edildiğinden faydalıdır
    • Örneğin, p(ev satılacak) * fiyat = beklenen sonuç
  • İkili sınıflandırmaya ihtiyaç duyduğumuzda da kullanışlıdır
    • Spam değil mi? → p(Spam)

Lojistik Regresyon -- Tahminler

$$ y' = \frac{1}{1 + e^{-(w^Tx+b)}} $$

\(\text{Where:} \) \(x\text{: Provides the familiar linear model}\) \(1+e^{-(...)}\text{: Squish through a sigmoid}\)

Lojistik regresyon denkleminin grafiği

$$ LogLoss = \sum_{(x,y)\in D} -y\,log(y') - (1 - y)\,log(1 - y') $$

Günlük Kaybı ile tahmini değerin karşılaştırmasının iki grafiği: bir değer, 0,0'lık bir hedef değer (yukarıya ve sağa doğru yayılarak) için bir hedef ve 1,0 değerinde bir hedef değer (aşağı doğru ve sola doğru eğimli) için bir grafik
  • Normalleştirme, lojistik regresyon için çok önemlidir.
    • Asimtotları hatırla
    • Zorluklar yüksek boyutlarda 0'a düşmeye devam edecek
  • Normalleştirme, lojistik regresyon için çok önemlidir.
    • Asimtotları hatırla
    • Zorluklar yüksek boyutlarda 0'a düşmeye devam edecek
  • Özellikle iki strateji yararlıdır:
    • L2 normalleştirmesi (L2 ağırlık kaybı:) - Büyük ağırlıklar için ceza verir.
    • Erken durdurma: Eğitim adımlarını veya öğrenme hızını sınırlandırma.
  • Doğrusal lojistik regresyon son derece etkilidir.
    • Eğitim ve tahmin süreleri çok hızlıdır.
    • Kısa / geniş modeller çok fazla RAM kullanır.
Önceki
Öğrendiklerinizi Kontrol Etme
Sonraki
Olasılığı Hesaplama